diff --git a/AIR-Bench_24.04/BM25/NoReranker/results.json b/AIR-Bench_24.04/BM25/NoReranker/results.json deleted file mode 100644 index 26040273c978c3836fd75291783f5dfe881a68bf..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/BM25/NoReranker/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.3681 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19489 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39157 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36331 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30618 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36126 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33509 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17501 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14117 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3792 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33239 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31717 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16196 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40043 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3473 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28773 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.32152 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32306 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.34096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17779 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32591 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32726 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15889 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41888 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36479 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29935 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31747 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32825 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37935 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19269 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41152 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34154 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35596 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44347 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32842 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33812 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34689 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.1895 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47272 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41877 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4045 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2197 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48035 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39213 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39167 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39465 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24737 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20309 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48757 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43888 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41808 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23636 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4896 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44819 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52702 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40809 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40659 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40831 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28413 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2399 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51317 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47593 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4453 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27919 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50748 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43927 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4377 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43794 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09239 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04846 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18549 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.10858 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.1456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05686 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24363 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19512 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.13337 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.15214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19071 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2294 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12691 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08034 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27182 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18775 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23144 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08853 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33816 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.27191 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19964 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21819 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25032 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.25931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1395 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.09423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30639 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.22154 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.09418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25804 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10324 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36605 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29592 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22583 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23978 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26855 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29157 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15283 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10805 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34159 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25656 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27997 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11851 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38871 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3159 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24913 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26234 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28491 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12116 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29026 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2972 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13522 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40285 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33024 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27285 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30129 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16931 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12319 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37129 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29407 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.29919 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13775 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40415 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33171 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27556 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28521 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30346 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17109 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12514 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37296 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29697 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3008 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14023 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40503 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33291 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27747 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28709 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30521 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09239 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04846 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18549 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.10858 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.1456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05686 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24363 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19512 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.13337 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.15214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19071 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14608 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.09918 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30799 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2177 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27624 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10448 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39142 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32951 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2441 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28786 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33883 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17516 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13058 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37179 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27944 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33843 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13773 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39411 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30804 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2986 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33196 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22005 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17369 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45823 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36675 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41482 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18292 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52074 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46932 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38813 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37241 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39105 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3426 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27614 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63028 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56594 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56272 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31794 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.64107 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60761 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57872 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52175 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53338 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40137 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.32756 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68977 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63782 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62252 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38005 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68653 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65687 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64485 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57981 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58899 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.89953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.61857 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.83277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81477 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.74527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78208 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60049 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.80986 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78582 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.82314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.8305 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74868 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.75057 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.3681 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19489 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39157 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36331 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30618 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36126 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33509 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.24798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11975 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27261 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28227 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23745 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13463 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23975 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.22652 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21202 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2349 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20445 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19801 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09217 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.09782 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2228 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23652 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18184 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11269 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.18095 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.17034 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.19537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17169 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.17873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15466 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.13896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06441 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.07042 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1562 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16878 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.11746 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08188 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.11394 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.10828 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.11882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.11681 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.12139 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.10076 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.04511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02293 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02437 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04771 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.05711 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.03427 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.03053 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03015 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03014 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03798 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.03846 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03168 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.02545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0136 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.01467 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02636 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.03259 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.02695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.01905 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.01833 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01616 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.01663 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02147 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02184 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01809 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0021 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00234 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00419 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0024 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00283 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00186 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00208 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00269 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.36729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19489 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39157 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18726 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36391 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30618 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36126 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33509 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22617 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19417 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45498 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42868 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4089 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22964 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4428 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44272 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38186 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42236 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39572 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23356 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20448 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4683 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44492 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42293 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24202 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45327 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45809 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39697 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43401 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40721 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24055 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21227 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47732 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45507 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43181 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25195 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4582 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46628 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40704 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4448 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41691 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24671 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21829 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48314 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46207 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43758 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26046 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46295 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47255 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41338 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45123 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42361 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24747 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21912 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48368 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46268 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43817 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26136 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46344 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47321 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41388 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45189 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42419 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24817 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21983 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48403 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46305 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43858 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26205 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46386 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47355 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41433 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45232 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42465 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34292 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33251 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37741 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40054 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4781 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3255 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34248 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41405 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51834 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36198 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44097 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45147 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46504 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54753 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57521 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43395 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48447 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48638 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45645 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4992 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52297 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61773 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49299 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50426 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.09851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10111 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.13906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.13809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.26131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1423 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.21034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19594 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.25187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.38507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.36866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38606 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.34672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.29602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4114 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24915 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.35071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43685 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3781 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32512 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30392 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38742 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46014 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30731 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38864 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33124 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3097 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38891 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.09851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10111 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.13906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.13809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.26131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1423 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.21034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27951 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44861 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38427 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55422 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47181 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.85305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.80433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77625 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64331 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.80927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.73709 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.77992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.83534 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76009 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.8082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8644 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7413 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.89153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.82423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.86573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.79126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92771 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.95099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.95653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.94457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.98517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.90714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.98498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.98553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.99001 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.96156 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.95612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96386 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.34513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.33135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23862 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15529 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.37446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19016 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.20541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.11084 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.1622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.15266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.13871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.13005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.13351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.09847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.07745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.12465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.06386 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.05393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.06078 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.06497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.05882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.06989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.04833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.03989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.04175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.03903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.02951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.03849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01671 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00928 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00373 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00303 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51282 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54794 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42168 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.34672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3672 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4654 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3781 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47221 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45127 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38742 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56105 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45216 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38864 - } - ] - }, - { - "config": { - "retrieval_model": "BM25", - "retrieval_model_link": "https://github.com/castorini/pyserini", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53998 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56143 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58119 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45261 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38891 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-base-en-v1.5/NoReranker/results.json b/AIR-Bench_24.04/bge-base-en-v1.5/NoReranker/results.json deleted file mode 100644 index 9099db0f1a7e883f7ec07b3ae8dcf4e4fe88428a..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-base-en-v1.5/NoReranker/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18323 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41326 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5208 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42461 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41017 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44288 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16513 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40849 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4776 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44159 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3589 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41393 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16963 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41431 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4858 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45709 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41534 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18879 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44105 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52184 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48096 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39201 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43963 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23728 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5077 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57757 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51888 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45218 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49626 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5227 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5888 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52686 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46852 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51029 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28972 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54562 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61014 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54444 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53451 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0691 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17764 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2416 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17446 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21226 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10672 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2776 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36951 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25146 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29243 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12194 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3165 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40324 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39812 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27751 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32188 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14009 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35638 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43266 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42048 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30242 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34974 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38745 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45475 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43607 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37281 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15976 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39011 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45667 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43723 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32757 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37522 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16167 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39165 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45805 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50789 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32957 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37687 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0691 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17764 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2416 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17446 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21226 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13103 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32609 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41719 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42472 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2949 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3444 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16518 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40185 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48758 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49094 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3577 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41011 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22215 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50104 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58684 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44434 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49434 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37176 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6878 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75583 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6829 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73001 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.66853 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.88236 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.94076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.9305 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.84639 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.87308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.85295 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18323 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41326 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5208 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42461 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41017 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44288 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12752 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30896 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34564 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26856 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26189 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28822 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10572 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25068 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25776 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.19773 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.22849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20012 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22238 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07768 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17565 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16221 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12265 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1355 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.13131 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1471 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02694 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05224 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04442 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0322 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03949 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04306 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01571 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02372 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00224 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00329 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00276 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00283 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18323 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41326 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5208 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42461 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41017 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44288 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22099 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49411 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58963 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48906 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48094 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52031 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23204 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50926 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6036 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49951 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49457 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53361 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2398 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61364 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50585 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50389 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54235 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2464 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52386 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61854 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50962 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51012 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54773 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24717 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52424 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61883 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51005 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51062 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54822 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24793 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52454 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61906 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51044 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51096 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54847 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55556 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52732 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51011 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5044 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54634 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49885 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51326 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49965 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52525 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47397 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52339 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5435 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51206 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56595 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55375 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62861 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62662 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59717 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58716 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61337 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59513 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6693 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64206 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6598 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63242 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60235 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.16354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23187 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.29462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.43503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.38306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.39985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33937 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38427 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44469 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37874 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42625 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46768 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47171 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4132 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49215 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49495 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44691 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43678 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49916 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47287 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49752 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44971 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49991 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52301 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50026 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.16354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23187 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38171 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48573 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46109 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48516 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48333 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44336 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54716 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46815 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65462 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64455 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57721 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.74699 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.84619 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.83389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.88462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.79311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.85812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.86073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.83163 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81894 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.85419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89194 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.78875 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.8996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.99289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99492 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.99122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55556 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52732 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53442 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.37162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33244 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33607 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.36306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28852 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19813 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.25161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13092 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23324 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.17827 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09021 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.14006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0747 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06613 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07435 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04682 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04425 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05202 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01799 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00425 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55556 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52732 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64164 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62679 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64985 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64319 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62272 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50341 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6619 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69178 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49215 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66303 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49916 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68782 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68612 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65621 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49991 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68787 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65643 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50026 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-base-en-v1.5/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/bge-base-en-v1.5/bce-reranker-base_v1/results.json deleted file mode 100644 index 449c9c881d7dd0069512e79b0ccfabf774df49ef..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-base-en-v1.5/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3176 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52665 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51611 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28216 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51638 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49101 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48552 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45158 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4903 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2861 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52547 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50194 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50666 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46343 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49895 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30367 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55227 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54466 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53472 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49796 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52901 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33285 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.599 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59089 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56063 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53635 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56988 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33627 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60207 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59754 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56274 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54056 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57247 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33627 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60207 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59754 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56274 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54056 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57247 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22021 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28532 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20241 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18704 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35209 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.30058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35648 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4029 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49005 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31235 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34822 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21493 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40894 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40035 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44267 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35937 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39365 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24116 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46063 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44082 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47237 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39695 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43189 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25556 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48848 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46047 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48401 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41458 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45263 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46154 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48427 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41517 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45314 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46154 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48427 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41517 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45314 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22021 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28532 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20241 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21542 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40588 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41929 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45767 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36322 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4009 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2714 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50326 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50665 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54039 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45964 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49125 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33624 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61386 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62509 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62282 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69704 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5946 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41931 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.73705 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77261 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71002 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75987 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67785 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70506 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3176 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52665 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51611 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21636 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39488 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37097 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34974 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17479 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32664 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2874 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23319 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27238 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27545 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28061 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11782 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22069 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.185 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17776 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18401 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03053 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0561 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04612 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03372 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03651 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04339 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04668 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01571 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02372 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0017 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00237 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3176 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52602 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52724 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51611 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36406 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61276 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53523 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70266 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58771 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60027 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37511 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62615 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63305 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54523 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60074 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61451 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37961 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63163 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63989 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55112 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60695 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38248 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63412 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6432 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55371 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60974 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38267 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6342 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64341 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60996 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38267 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6342 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64341 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60996 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61862 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59727 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50401 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60105 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53702 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66438 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56835 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7062 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7058 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60189 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66218 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60653 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66218 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60653 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23222 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3374 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47958 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37958 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46388 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47256 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44671 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41305 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52062 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43839 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49083 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56444 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48982 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39251 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50384 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58354 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47038 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51139 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5801 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6291 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58407 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51942 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51182 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5801 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6291 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58407 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51942 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51182 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23222 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52285 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54781 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44062 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50102 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62859 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54649 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60154 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6747 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73639 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68056 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67952 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.81981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.74143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.77108 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.85374 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8787 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.848 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.88727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92038 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.84224 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61862 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50771 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4095 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41803 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23145 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19813 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43003 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30054 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33224 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.29617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19543 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21858 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07711 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.07 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05481 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01839 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00095 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61862 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66576 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47256 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72679 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67668 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49083 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72519 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73129 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50384 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72755 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73353 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5114 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7337 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68697 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51183 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7337 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68697 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51183 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-base-en-v1.5/bge-reranker-large/results.json b/AIR-Bench_24.04/bge-base-en-v1.5/bge-reranker-large/results.json deleted file mode 100644 index c827ff96718550b61f24d2faaba14559d9f409ca..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-base-en-v1.5/bge-reranker-large/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48975 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51184 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57293 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31958 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54151 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46991 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50936 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46524 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53505 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31792 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54914 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53797 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33211 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57764 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53877 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55004 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5058 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56326 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35651 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61776 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.588 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5761 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54341 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59817 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35929 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62026 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5918 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57905 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54699 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60023 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35929 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62026 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5918 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57905 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54699 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60023 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24371 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21429 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31495 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20833 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21902 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37701 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34474 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43213 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3236 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38452 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43695 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3906 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46612 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59357 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36878 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43058 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49131 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43461 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49306 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47015 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2862 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51585 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4569 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50543 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42465 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48834 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28662 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51635 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5058 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42515 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48879 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28662 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51635 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5058 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42515 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48879 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24371 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21429 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31495 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20833 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24351 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42173 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40768 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48071 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37589 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43484 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29327 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51859 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50568 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46685 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52069 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35258 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6348 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63628 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62145 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56682 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6121 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42258 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.73982 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78619 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70519 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.68076 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70778 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48975 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51184 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57293 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24357 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41119 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31083 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35702 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3802 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19045 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33755 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2792 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.28906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27984 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12449 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22906 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18635 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.1429 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18001 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19297 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03067 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05626 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04682 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03359 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04357 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.0468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01571 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02372 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0017 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00237 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35924 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48975 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51184 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57293 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40098 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63404 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58416 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55868 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59282 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64997 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40814 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64395 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60153 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56849 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60602 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66236 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4125 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65182 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61074 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57238 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61084 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66762 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41458 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65343 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61465 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57479 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61379 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66977 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41473 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65351 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61478 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57499 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61398 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6698 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41473 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65351 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61478 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57499 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61398 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6698 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68769 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60263 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66633 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59863 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51109 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51422 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57769 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60523 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61976 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52647 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56248 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59721 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65842 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65097 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6881 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66731 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57549 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62099 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73435 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64437 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62313 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64826 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72145 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72145 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21147 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21256 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24123 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29936 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33086 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39275 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4373 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48407 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54284 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47347 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49827 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55348 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54585 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58359 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47097 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56354 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57869 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51693 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57016 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51313 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57062 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51313 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57062 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21147 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21256 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24123 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29936 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33086 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42174 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46074 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67871 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64015 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52041 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72691 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.76766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.75025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67673 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.85813 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.9527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.8519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85807 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.88983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91566 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68769 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51638 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41219 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38525 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.22624 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42197 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31344 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14538 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19597 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20464 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07556 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05503 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03509 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01831 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00095 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68769 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74725 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77909 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71819 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64663 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54284 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59709 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55348 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76251 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66524 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60445 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56364 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71682 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73766 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67062 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57032 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73772 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57079 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73772 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57079 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-base-en-v1.5/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/bge-base-en-v1.5/bge-reranker-v2-m3/results.json deleted file mode 100644 index fdf1534e33bad4fbe0a557e42fc02c27078fd340..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-base-en-v1.5/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36813 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59285 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51546 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52513 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58465 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32643 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55509 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55393 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53866 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47678 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32478 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5597 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.569 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55222 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48695 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55071 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33593 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58538 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60919 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57467 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36195 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64493 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59678 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55672 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6089 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3646 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62976 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64704 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59796 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55938 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6107 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3646 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62976 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64704 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59796 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55938 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6107 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15418 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26112 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2638 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32149 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22274 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28427 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22721 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39597 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.417 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45656 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56388 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33864 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40423 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25599 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45166 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46868 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49163 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38584 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44705 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27918 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50143 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50975 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51936 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42315 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48419 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29239 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52681 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52728 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52954 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44015 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50275 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29278 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52764 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52969 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44049 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50308 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29278 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52764 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52969 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44049 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50308 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15418 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26112 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2638 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32149 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22274 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28427 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25213 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43809 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48075 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51722 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39378 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45437 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29948 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52828 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57772 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58334 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48026 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53224 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35036 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63276 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6878 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65417 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58333 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61902 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42262 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.74017 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.79458 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71519 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.68497 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70841 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36813 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59285 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51546 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52513 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58465 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24394 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41347 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4132 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33123 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35779 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19067 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33296 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2429 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28296 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30006 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12199 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22392 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20023 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14909 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18082 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19291 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03077 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05617 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04716 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03657 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04376 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.0469 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01571 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02372 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0017 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00237 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36813 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59344 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51546 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52513 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58465 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41153 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64829 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67838 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58318 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60919 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66169 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6591 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7664 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68855 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58986 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6186 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67241 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42182 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66554 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6948 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59371 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62525 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67757 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42395 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6674 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6972 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59554 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62748 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6795 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42409 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66746 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69727 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59562 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62761 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67958 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42409 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66746 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69727 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59562 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62761 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67958 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66259 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65395 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59064 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6259 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66895 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61553 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71466 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75128 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73921 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74886 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65791 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67823 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65987 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67823 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65987 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43557 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54752 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48095 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56265 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55212 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58659 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45756 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56138 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59343 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56926 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51077 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5693 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61783 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64147 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53853 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57467 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53949 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63038 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57484 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53949 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63038 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57484 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49056 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4303 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58952 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47391 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71486 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68132 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56926 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.67458 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7848 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.696 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.82934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.78364 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.78215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.83534 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89922 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8804 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86321 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.851 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93574 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55395 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44176 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38282 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23829 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31922 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.1958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18263 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08353 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04758 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01871 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00095 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77867 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6867 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62065 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54752 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78629 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7612 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78741 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69531 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56118 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78186 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79143 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6994 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5691 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79947 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79543 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87097 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57447 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79543 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87097 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79292 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7203 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57464 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79543 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87097 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79292 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7203 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57464 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-base-en-v1.5/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/bge-base-en-v1.5/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index dfece097c68236a4968cd25f1428090b1f2b62e6..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-base-en-v1.5/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25819 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42193 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44464 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24181 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43089 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41816 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35821 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4298 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24399 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44747 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43806 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46557 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43361 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26236 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48134 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48098 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49353 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4126 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4663 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30117 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54259 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54239 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52803 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62194 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47203 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52172 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30756 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55012 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55262 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53247 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47846 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52839 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30756 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55012 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55262 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53247 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47846 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52839 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19335 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19786 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25588 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33916 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16179 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21403 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16261 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29884 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30982 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37229 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24617 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3077 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18354 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34563 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34976 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40381 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33953 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20468 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39152 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38422 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42978 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5107 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31523 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37322 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22188 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42364 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40863 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44476 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52284 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33955 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39792 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22284 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42503 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41026 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4454 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34054 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39924 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22284 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42503 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41026 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4454 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34054 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39924 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19335 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19786 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25588 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33916 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16179 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21403 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35501 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36165 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43936 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30131 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36868 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23633 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44349 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45301 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51149 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43448 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2971 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55613 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56688 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58878 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49012 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53389 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40712 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71906 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75708 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69919 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66858 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68835 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25819 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42193 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44464 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18434 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31166 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27592 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26979 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30092 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14592 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24581 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20782 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.24655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21791 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2348 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10011 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.193 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16163 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13079 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14922 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1604 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02959 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05467 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04507 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03312 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04272 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04541 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01571 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02372 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0017 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00237 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25819 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42193 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44464 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41262 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31038 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5126 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53027 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48833 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4741 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53046 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32093 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5292 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54928 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50038 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49036 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54318 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32751 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53931 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55852 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50592 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50031 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33164 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54338 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56403 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50925 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50569 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55776 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33194 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54363 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56441 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5095 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50597 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55796 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33194 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54363 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56441 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5095 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50597 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55796 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4153 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51689 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39797 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46548 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43701 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57004 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46663 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5297 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55513 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63929 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57473 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58011 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64981 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5685 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57982 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58011 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64981 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5685 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57982 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.16543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26977 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30079 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17912 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25245 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.33549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48838 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42364 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34709 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45763 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47984 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36174 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47206 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43159 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39919 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49553 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48195 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39834 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51068 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40136 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48236 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39834 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51068 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40136 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48236 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.16543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26977 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30079 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17912 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48394 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33797 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53414 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5502 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42972 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52498 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60643 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49416 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54887 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55736 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71486 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.84391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.80812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82659 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.86774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.87537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.77736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91566 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4153 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32755 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33781 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30601 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.17805 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2985 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.24946 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24754 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12129 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21682 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.1878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15833 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09199 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.13754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07149 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06578 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07207 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05322 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04224 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01831 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00095 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4153 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50865 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44836 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44378 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59502 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52887 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64882 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54148 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47447 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61144 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65337 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54716 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48976 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.484 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65351 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49064 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48441 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65351 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49064 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48441 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-base-en-v1.5/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/bge-base-en-v1.5/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index 484040806d5f42f53c181999bc705d58f4d8e07d..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-base-en-v1.5/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25986 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40768 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41945 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39341 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42999 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24429 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42177 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44686 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39703 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43405 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37735 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42191 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24763 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41821 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45654 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39048 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43476 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26879 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47415 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46538 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48456 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43039 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46758 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30503 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53517 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52187 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48748 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52267 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3101 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54351 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54198 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5266 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49125 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3101 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54351 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54198 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5266 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49125 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10229 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18116 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18873 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2557 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16511 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21079 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16204 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28826 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.24323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.29408 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36159 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25825 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30023 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18454 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33404 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33135 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39599 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29383 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33691 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20961 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3816 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36687 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32941 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3714 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22587 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41504 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43778 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55841 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35412 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39672 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22662 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41617 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39591 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43841 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35471 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39762 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22662 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41617 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39591 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43841 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35471 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39762 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10229 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18116 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18873 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2557 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16511 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21079 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3439 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35075 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41958 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32178 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36131 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23968 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43641 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43674 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49732 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44184 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30875 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55519 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55818 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51006 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54325 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72548 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69668 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.68133 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6943 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25986 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40768 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41945 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39341 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42999 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19045 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32032 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26772 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28635 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29525 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15336 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27001 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23327 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20517 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.25339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2305 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24019 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10694 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19312 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15741 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12991 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.15719 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16327 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03001 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05518 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04589 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03319 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04335 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01571 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02372 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0017 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00237 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25986 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40768 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41945 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39341 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42999 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31149 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50041 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50693 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47939 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49316 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52285 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32246 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52033 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52547 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49131 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50905 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54133 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32904 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53108 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5379 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49826 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71097 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51828 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55115 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33313 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53473 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54397 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50219 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71274 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5552 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3334 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5349 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54415 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50251 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52302 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55539 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3334 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5349 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54415 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50251 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52302 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55539 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50184 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56216 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35673 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4977 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43304 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48827 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37129 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52086 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42101 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55406 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58954 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75682 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68449 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52526 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59498 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69105 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53813 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59885 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69105 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53813 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59885 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.16848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33582 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15482 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25297 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46779 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24791 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50806 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28331 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48139 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37517 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49551 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36277 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3648 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3648 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.16848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33582 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15482 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30583 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.29472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.35871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30569 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58233 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60095 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38741 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69365 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50707 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73896 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.87263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86635 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94671 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.86186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92369 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35164 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42801 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.39812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3647 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27596 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19411 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30347 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.33805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19509 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23697 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12771 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.25178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.17843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17258 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1582 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0739 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07373 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04661 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01847 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00095 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67832 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4622 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69592 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48037 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48059 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62265 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70224 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49391 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49537 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70582 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5034 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50422 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59622 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70604 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50389 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50456 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59622 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70604 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50389 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50456 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-base-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/bge-base-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index 5bc3a9433c9eb3f640ef06871a89ca1da2d77578..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-base-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21655 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39953 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3142 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19798 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4023 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3945 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33984 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32316 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40165 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20207 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40828 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36094 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48557 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33863 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21776 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46256 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39019 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.445 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26199 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50482 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5233 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44214 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43295 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49597 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27217 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51883 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53247 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45202 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44499 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50688 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27217 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51883 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53247 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45202 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44499 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50688 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07463 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.16905 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17574 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11991 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26717 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27936 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27064 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20939 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27198 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14103 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30881 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3221 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30213 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24768 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30894 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16113 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35385 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36364 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32598 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28019 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34577 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17831 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38321 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34431 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44918 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30286 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36803 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17981 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3857 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38839 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30457 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36975 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17981 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3857 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38839 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30457 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36975 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07463 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.16905 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17574 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14765 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31066 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33797 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32695 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2574 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3238 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38879 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.431 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50427 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34526 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40334 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25163 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50635 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56057 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.441 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38847 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68751 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76045 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67107 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63978 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66411 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21655 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39953 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3142 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16084 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31227 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.314 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22755 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26324 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29272 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25688 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25167 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17741 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.22351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21883 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23855 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09289 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18302 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17059 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.11375 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.13613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1465 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16339 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0287 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05299 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04547 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03194 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04156 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04467 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01571 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02372 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0017 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00237 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2171 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39953 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26661 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48947 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49453 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3836 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.569 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42731 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27747 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50304 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5114 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39562 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44779 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53533 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28359 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51454 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52339 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40404 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45576 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54563 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28901 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51994 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52979 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41079 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46218 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55005 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28951 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52035 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53006 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4113 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5505 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28951 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52035 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53006 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4113 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5505 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56358 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51449 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54453 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47156 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47772 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48858 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42704 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49622 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54724 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61373 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60775 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54416 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52975 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63287 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6531 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60719 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56999 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6675 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66597 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62026 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58045 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6675 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66597 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62026 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58045 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20696 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28965 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43144 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33712 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4498 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39979 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48046 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38995 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36609 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46024 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43902 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44016 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47395 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50321 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53498 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46705 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48316 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48436 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53681 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46919 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4841 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48436 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53681 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46919 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4841 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20696 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36891 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47985 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38783 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55823 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49373 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59055 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57727 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49299 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60241 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6594 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68684 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.69115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70683 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.84448 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.88019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.86215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.83257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.92446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.86033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.77751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.88353 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56358 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.38592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38351 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18608 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.29727 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12048 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25983 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27327 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07068 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04538 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04224 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01767 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00095 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56358 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66353 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4498 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65125 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67428 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61179 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46024 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66068 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68199 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60709 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47395 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68486 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62521 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48315 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63869 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68533 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48409 - } - ] - }, - { - "config": { - "retrieval_model": "bge-base-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-base-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63869 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68533 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48409 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-large-en-v1.5/NoReranker/results.json b/AIR-Bench_24.04/bge-large-en-v1.5/NoReranker/results.json deleted file mode 100644 index abd7a41284681b26fb7dae6e9c00f9a6c1111726..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-large-en-v1.5/NoReranker/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27429 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43556 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53486 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40063 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42981 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45929 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23997 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4232 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48749 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42488 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37188 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43525 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24667 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49621 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44379 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37503 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43628 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46216 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52826 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4695 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4038 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46141 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31388 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52616 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50583 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62035 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46476 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51816 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32811 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53934 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59383 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51392 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48177 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53201 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36078 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56331 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61464 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53103 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51002 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55457 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11279 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19381 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24637 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18615 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22043 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16309 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29359 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3745 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.35591 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.308 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33575 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41118 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38491 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28879 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33993 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20319 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37769 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43892 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40765 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31392 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36999 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22241 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40797 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46035 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42219 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33663 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39423 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22456 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46233 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42341 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33937 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39651 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22629 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41205 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46373 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42426 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34121 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39804 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11279 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19381 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24637 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18615 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22043 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19213 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.341 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42348 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41768 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24174 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41866 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49934 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4862 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36867 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43028 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30194 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52228 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58828 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56046 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45283 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45024 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75172 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67929 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73818 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63856 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68127 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.71015 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.89322 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.94492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.92414 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83741 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.86821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.87722 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.86827 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27429 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43556 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53486 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40063 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42981 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45929 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31475 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35032 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25973 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26613 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30521 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26047 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26081 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.19457 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.23463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2022 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2355 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09634 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18234 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16204 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12101 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.13966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.13247 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15472 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03127 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05315 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04414 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0316 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04016 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04456 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00237 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0019 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00287 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27429 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43556 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53486 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42981 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45929 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31991 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50971 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60672 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46604 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49904 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3328 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52569 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61858 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47846 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51261 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55677 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34004 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5351 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6265 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48496 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52119 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56525 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3459 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53973 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69981 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.631 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48891 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52685 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56963 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34657 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54014 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63135 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48928 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52738 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5701 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34709 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54049 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63158 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52773 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57034 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53729 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4732 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55407 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42569 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54522 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.537 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54841 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46005 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57029 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57673 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53363 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62407 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58953 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64646 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61215 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61982 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65726 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64308 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66173 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62454 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67291 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67985 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64072 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63677 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20154 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17336 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32619 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35263 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42186 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43452 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34258 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51272 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40985 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36755 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38385 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39385 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52677 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49502 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42348 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53458 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5189 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54163 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48622 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50644 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52135 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45987 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54833 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54267 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50523 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56301 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54299 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20154 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17336 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32619 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48159 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39261 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55435 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6988 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63247 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57556 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64114 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63708 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.75904 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.85367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.89713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.87133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.84344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8321 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.84494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.77816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.89157 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.99176 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99216 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.98452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99636 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45464 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.37348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34608 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21285 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.25538 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26885 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13976 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.18036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.1693 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.17199 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18142 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09199 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.14622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0759 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07195 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04382 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0535 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01783 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68256 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67787 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64685 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51272 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68607 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63529 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52677 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70084 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69579 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75212 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64723 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66603 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53458 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70395 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68648 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69778 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54163 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7003 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65135 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67005 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54267 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70049 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69831 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65153 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54299 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-large-en-v1.5/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/bge-large-en-v1.5/bce-reranker-base_v1/results.json deleted file mode 100644 index e3cba353c957a7a5ee0bcc29ce7c16c50bcb3279..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-large-en-v1.5/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3548 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53532 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53368 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50722 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5331 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3208 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52167 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49209 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48494 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45553 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50351 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32456 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5297 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50595 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5037 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46637 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51383 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3479 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55861 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54642 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53112 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50555 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5454 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60481 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59227 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55664 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54307 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5885 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38663 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60811 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59923 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54768 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59104 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38663 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60811 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59923 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54768 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59104 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14092 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22494 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22326 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2839 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20385 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25673 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21518 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35756 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.30131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35816 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40291 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36041 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24605 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41324 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40384 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44057 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36366 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40663 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27671 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46619 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44371 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4695 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40454 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4467 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29358 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46314 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48107 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42186 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46905 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29414 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49473 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46426 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48134 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42254 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46957 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29414 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49473 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46426 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48134 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42254 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46957 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14092 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22494 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22326 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2839 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20385 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25673 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25037 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41022 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41902 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45908 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.368 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31138 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50547 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51263 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53742 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50702 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62135 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62351 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61838 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57466 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61262 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49238 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.74223 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76987 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70471 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69056 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73002 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3548 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53532 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53368 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50722 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5331 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24375 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39798 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49823 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37219 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34912 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35638 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.195 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32664 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28822 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23054 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27898 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27764 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.286 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13254 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22224 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18518 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14297 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18169 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18822 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03464 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05648 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04591 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0332 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04404 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04793 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35536 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5347 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53427 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50722 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53251 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41033 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61958 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62371 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53218 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58502 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61736 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42096 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63237 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6373 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54177 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59779 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63233 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42767 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63914 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64268 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54765 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60556 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63986 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43097 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64103 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64644 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55015 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72203 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60805 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64225 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43124 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64115 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64666 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55034 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60828 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64232 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43124 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64115 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64666 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55034 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60828 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64232 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61862 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62843 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5948 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53809 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56678 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49703 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53142 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64031 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77483 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6624 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60374 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56206 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70447 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66002 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70644 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70841 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60333 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70644 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70841 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60333 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.17607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23654 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37143 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38725 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46319 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41143 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5185 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48206 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51502 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49858 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49516 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54328 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58849 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58127 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58671 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50405 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58187 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52696 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47154 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50436 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58187 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52696 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47154 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50436 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.17607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23654 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43406 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42433 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50403 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54933 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62971 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54795 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67871 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73443 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74939 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68447 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.8144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.74298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.73689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.77108 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8854 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.85759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.9363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87997 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85582 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.91988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93574 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61862 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40771 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41985 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19813 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42883 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33443 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13574 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30947 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.29587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.1972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07711 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07556 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04715 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05519 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04605 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01871 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61862 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66894 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46319 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72755 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67919 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48206 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68649 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49516 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7336 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50405 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72938 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52609 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50436 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72938 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52609 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50436 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-large-en-v1.5/bge-reranker-large/results.json b/AIR-Bench_24.04/bge-large-en-v1.5/bge-reranker-large/results.json deleted file mode 100644 index 4d631bcc779142b068b96b651911e8041fdf6bc5..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-large-en-v1.5/bge-reranker-large/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52431 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49842 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50376 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57938 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37262 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54234 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48874 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51143 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46247 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54259 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37447 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.551 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50878 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52659 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47568 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54742 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3899 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5791 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55737 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54971 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50759 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57675 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61919 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60181 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57496 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5484 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6124 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42096 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62218 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6056 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57764 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61457 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42096 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62218 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6056 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57764 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61457 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1789 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24324 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23194 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31527 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20706 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26047 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3778 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36198 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43443 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32269 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39167 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29426 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43762 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43827 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40995 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46785 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37153 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43907 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32304 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49264 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45466 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49367 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40989 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48142 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51689 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47507 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5058 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42885 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50044 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33808 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51746 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47566 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50612 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42939 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50086 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33808 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51746 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47566 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50612 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42939 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50086 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1789 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24324 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23194 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31527 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20706 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29056 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42342 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41852 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48561 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37649 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44402 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35111 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52311 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51989 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55374 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47519 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41551 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63728 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64973 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62213 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57008 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63315 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49473 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.74339 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78515 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70316 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.695 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73145 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52431 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49842 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50376 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57938 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27744 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41243 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36516 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31314 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35394 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38469 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21866 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33866 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28834 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23155 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28261 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30299 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1417 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23061 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19074 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14158 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18151 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1983 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03477 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05658 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0467 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03316 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04427 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04806 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52431 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49842 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50376 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57938 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.46622 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63383 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60769 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58733 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65837 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4753 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64551 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62416 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56577 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67087 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47949 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65208 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63291 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56978 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60582 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67604 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48171 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65376 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63638 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60909 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67823 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48189 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65387 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63652 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5724 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67828 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48189 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65387 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63652 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5724 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67828 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6967 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61094 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51823 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58424 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63059 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53706 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60532 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67401 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62524 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71801 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65552 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62657 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71644 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72052 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66229 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66007 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71644 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72052 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66229 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66007 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34438 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49576 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37751 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46065 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54886 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46552 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5442 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43281 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48698 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56031 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48134 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50929 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56879 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57256 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59915 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50422 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57623 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51395 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57662 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51395 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57662 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34438 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55238 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42622 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57789 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68675 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57496 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64685 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73896 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74921 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66538 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.78228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.76682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.9013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.8518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.88216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88849 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.87101 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92771 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6967 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53654 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.22892 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31613 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28092 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19664 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07992 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0696 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05546 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01855 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6967 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54886 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67486 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56031 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79082 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68227 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61979 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56704 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56885 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75216 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68597 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57633 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79327 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75216 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68617 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57673 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79327 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75216 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68617 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57673 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-large-en-v1.5/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/bge-large-en-v1.5/bge-reranker-v2-m3/results.json deleted file mode 100644 index 65263a125b1313ecd87bfc39bbdd69100b4b9b3f..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-large-en-v1.5/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41366 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60281 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51167 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71511 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5182 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59227 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37396 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55677 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55878 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5359 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56192 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37419 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56223 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57296 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55101 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48448 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56146 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38909 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58748 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61266 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57362 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51985 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58796 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41845 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63027 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64783 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59292 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55775 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62357 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42152 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63318 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65043 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59456 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42152 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63318 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65043 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59456 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17959 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2619 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27117 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21962 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26415 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39857 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42202 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45489 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33546 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41297 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29709 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45443 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47325 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49026 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38423 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45697 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.505 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51431 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51656 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.496 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33898 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53067 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53173 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52653 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44066 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51579 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33942 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53126 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53217 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52673 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44114 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51621 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33942 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53126 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53217 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52673 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44114 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51621 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17959 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2619 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27117 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21962 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29641 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44217 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48246 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51514 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38804 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46606 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35219 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53147 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57761 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58485 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67193 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48006 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41364 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63498 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68693 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65037 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58596 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63768 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49592 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.74458 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.79138 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.69649 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73103 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41366 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60281 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51167 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71511 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5182 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59227 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27577 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32934 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35413 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3966 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21532 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33432 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46922 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31728 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30404 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13876 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22429 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19953 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17035 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18122 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19672 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03489 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05648 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04691 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03334 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04432 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04805 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4131 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6034 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51167 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71511 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5182 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59227 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.46594 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6486 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68463 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5796 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59773 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67165 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4728 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69524 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58689 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77284 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61049 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68169 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66511 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70088 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59065 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6172 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68721 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47955 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66717 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70305 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59256 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61952 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68894 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66724 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70316 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59269 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61971 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68901 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66724 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70316 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59269 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61971 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68901 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64918 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64092 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66583 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65056 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56042 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59126 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65626 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66843 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56998 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61788 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71308 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62423 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63623 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74813 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74854 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68167 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66068 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75173 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68808 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66331 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75173 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68808 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66331 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22667 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26212 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25642 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34654 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.403 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42227 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53881 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54953 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52097 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50708 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5639 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56439 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52003 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5097 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57205 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64015 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54811 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57754 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6227 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62823 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57777 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6227 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62823 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57777 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22667 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26212 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25642 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34654 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49095 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44125 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47827 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71084 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63492 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58067 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68215 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.67953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74082 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78354 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.82362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.7956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.77695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.83133 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86835 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88369 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57298 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42714 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23695 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2922 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19973 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08313 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06983 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07922 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05557 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04557 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77151 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54953 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78298 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86644 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74578 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7046 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71266 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63263 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56419 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79583 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57185 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79327 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.75209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57734 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.75234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57757 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.75234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57757 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-large-en-v1.5/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/bge-large-en-v1.5/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index 6f92511f91cd47355dca661a5f4f73efd9813f95..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-large-en-v1.5/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29872 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43061 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45284 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3859 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43878 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27138 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43716 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42366 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44234 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5516 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36489 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4325 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45364 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44034 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.462 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37877 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44114 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30128 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48674 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48541 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48942 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41702 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47496 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34731 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5488 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54495 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52387 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47843 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53454 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35385 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55604 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55553 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52874 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48632 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5407 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35385 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55604 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55553 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52874 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48632 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5407 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12449 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19643 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20095 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25633 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16418 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21754 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18452 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30363 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31502 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36995 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31239 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20962 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3534 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4017 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28665 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34622 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2349 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39697 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38894 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42726 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3202 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38047 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25454 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42957 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41297 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44187 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52987 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34597 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40752 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25557 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43085 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41463 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44251 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34722 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4087 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25557 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43085 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41463 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44251 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34722 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4087 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12449 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19643 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20095 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25633 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16418 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21754 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21654 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35873 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36717 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43339 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3092 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37383 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27245 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45016 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45115 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50447 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38962 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34898 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56056 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56949 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58116 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49251 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54848 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72663 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75402 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6759 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71519 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29872 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43061 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45284 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3859 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43878 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20211 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32858 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31439 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27364 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29994 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16313 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27559 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24581 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20593 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.24887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22045 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23843 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11333 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1948 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16321 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14986 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16274 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03366 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05517 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04489 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03262 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04318 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04678 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29872 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43061 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45343 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3859 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43878 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34897 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51983 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53642 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48591 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4792 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53134 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36249 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53665 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55244 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49783 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54769 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37061 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56381 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50315 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50405 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55793 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37586 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55064 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5689 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50696 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50953 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56225 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37621 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55088 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50725 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50988 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56245 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37621 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55088 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50725 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50988 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56245 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43443 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45606 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40162 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.464 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40073 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45496 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53309 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42701 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49355 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66965 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57474 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4719 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52654 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64277 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56106 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57353 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55498 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58064 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55498 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58064 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14388 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.11684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.14822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.1675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25612 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2905 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21399 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25446 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.26817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.29175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42343 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42278 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28715 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43976 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26777 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32409 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.33816 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33004 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45602 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34836 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36877 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46673 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46995 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43129 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40593 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48078 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38347 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51173 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4084 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48139 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38347 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51173 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4084 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48139 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14388 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.11684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.14822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.1675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25612 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2905 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21399 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2905 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.33292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46265 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45847 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40786 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53414 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50965 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56163 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43412 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51929 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60643 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52878 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65495 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55845 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70683 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.85339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.82147 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.86172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86086 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8297 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.76675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91165 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43443 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33044 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39546 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.38779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30601 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.17805 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.25323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12129 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21742 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.16102 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09021 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.13641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07068 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0726 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05311 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01823 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43443 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43303 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52842 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53811 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45803 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64821 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47201 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55338 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55157 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60854 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65277 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55761 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60841 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48283 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55182 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65298 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48345 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55182 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65298 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48345 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-large-en-v1.5/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/bge-large-en-v1.5/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index 815193186f17219b458e33f4042c21d4cc09a121..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-large-en-v1.5/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42255 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43761 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41136 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40381 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27199 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42938 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4142 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43256 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38173 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4315 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27939 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44543 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43338 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45369 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39611 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44449 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30416 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4809 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48117 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43488 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47953 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34766 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54458 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.546 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51814 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49353 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53694 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35367 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55088 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55323 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52318 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49841 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54186 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35367 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55088 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55323 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52318 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49841 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54186 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11262 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18777 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19821 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25577 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16851 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21597 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18123 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29391 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30784 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3614 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48918 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26137 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30809 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20891 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34048 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.30226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34529 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39445 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29837 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34542 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23679 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38203 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42044 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33384 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38227 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42204 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40882 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43555 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35956 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40848 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25688 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42321 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43616 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36031 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4094 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25688 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42321 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43616 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36031 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4094 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11262 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18777 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19821 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25577 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16851 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21597 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21689 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35082 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36551 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41825 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32476 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37141 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27629 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44147 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45132 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49287 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60836 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40851 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45328 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35644 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56051 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57233 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56895 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5146 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55933 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48371 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.7303 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77022 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69125 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6903 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71947 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42255 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43761 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41136 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40381 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21025 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32445 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30502 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26583 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28847 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30248 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17224 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27237 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23866 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20278 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.25617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23316 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24499 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11988 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19535 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16128 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12833 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.15835 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1679 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03398 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05553 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04574 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03266 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04387 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04731 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42255 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43761 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41073 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40381 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34361 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51342 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52656 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47708 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50067 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53144 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5309 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54363 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48906 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51613 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54808 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36582 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54129 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55563 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49552 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52445 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37089 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54565 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56102 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49973 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52916 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56191 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37121 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56129 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50011 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52936 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56209 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37121 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56129 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50011 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52936 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56209 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38251 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42733 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57418 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36491 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50172 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59215 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3727 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52315 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50091 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61981 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42811 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55853 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59589 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62854 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69199 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53095 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51985 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59673 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63715 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69815 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63715 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69815 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14305 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.13026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.16209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.17618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33735 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15498 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47636 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25493 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47256 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5145 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28619 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4844 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32777 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49918 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47615 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36854 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50778 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43174 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57192 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37075 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50841 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43174 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57192 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37075 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50841 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14305 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.13026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.16209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.17618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33735 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15498 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31428 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40035 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58635 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39263 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46449 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56808 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.607 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38746 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60114 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7101 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52012 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.74699 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.86354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.87861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87184 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.83923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.93896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.87945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.79539 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91566 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38251 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36416 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42702 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28506 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19545 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.34159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27903 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.23892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12771 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.25592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0747 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07408 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04645 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01831 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38251 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61933 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46676 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47256 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57298 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4844 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58895 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64388 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7155 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52836 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49918 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60336 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64933 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71838 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50664 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50778 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71853 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50841 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71853 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50841 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-large-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/bge-large-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index 37d170ed561349bd8793ea5db891e6ab9d1b3d73..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-large-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40768 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39895 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34027 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42707 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40163 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39507 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33079 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31787 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22908 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40801 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34962 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33178 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41417 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25091 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43906 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37951 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36737 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44879 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30324 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50568 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52199 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43134 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55569 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43182 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50325 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31445 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52016 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53184 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44237 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44523 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5148 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31445 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52016 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53184 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44237 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44523 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5148 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08643 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.16676 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16259 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17019 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18251 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13951 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26808 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28063 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26389 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38194 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20681 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27328 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32452 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2938 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24509 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31261 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18581 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35378 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37212 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31738 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27795 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34929 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20594 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38389 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38768 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33515 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30185 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37317 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20759 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38922 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30374 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.375 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20759 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38922 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30374 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.375 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08643 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.16676 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16259 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17019 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18251 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17442 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31437 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33956 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31879 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2534 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38996 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43316 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33652 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41688 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50105 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55292 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47284 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43694 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52603 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45899 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75599 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6602 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64715 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68585 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.80317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74055 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40768 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39895 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34027 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42707 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18083 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31165 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.314 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22082 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25765 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29662 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14792 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25601 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25354 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17123 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.22791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21398 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2423 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1045 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18172 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16878 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.11091 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.13752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14547 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16573 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03267 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05318 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0452 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03138 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04206 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04574 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01777 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02435 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40768 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39895 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34027 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42707 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30057 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48751 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49248 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37256 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56427 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41931 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51396 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31251 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50064 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50874 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57701 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43563 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53116 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32119 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51087 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51968 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39274 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44557 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54143 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51709 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52657 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39958 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4524 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54589 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32815 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51753 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52688 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40024 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45311 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54634 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32815 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51753 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52688 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40024 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45311 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54634 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51885 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47424 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47265 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52114 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49216 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49288 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59613 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53808 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55024 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53042 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66031 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73664 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6555 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61344 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57255 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67061 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.669 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67061 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.669 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.2724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.29061 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43806 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34117 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31021 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44712 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39864 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3594 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48191 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39481 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34915 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45857 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51948 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44781 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.474 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52816 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53773 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47391 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48325 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53965 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47584 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40875 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48402 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53965 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47584 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40875 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48402 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.2724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34075 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37596 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46366 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54618 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44864 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50629 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57353 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49685 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.69115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71084 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.85372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85842 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.87986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.83183 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.83864 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.91775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.87914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.76148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.8996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.87225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.38685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3862 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18206 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37168 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39823 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.29945 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.11888 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18253 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20546 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07108 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05143 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04511 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01799 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00285 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66075 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6698 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44712 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61261 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45857 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63047 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68654 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.474 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68656 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69034 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48325 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74664 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69092 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48402 - } - ] - }, - { - "config": { - "retrieval_model": "bge-large-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-large-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74664 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69092 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48402 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-m3/NoReranker/results.json b/AIR-Bench_24.04/bge-m3/NoReranker/results.json deleted file mode 100644 index 6532570dbb1627b04e278486722a2f62987ccd6b..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-m3/NoReranker/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26208 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45415 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49443 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36066 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46751 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6897 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43096 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47452 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23884 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37958 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44616 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54326 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44399 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30858 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47685 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37391 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48027 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45302 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24529 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37675 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4549 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52512 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45728 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29764 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58962 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37848 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47588 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44998 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6849 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26678 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40752 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48039 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54405 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.491 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32177 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51518 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62358 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40762 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50378 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47348 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32293 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.489 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54676 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63302 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54667 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40174 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55125 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67056 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46944 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57321 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53616 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75522 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33829 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50966 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56236 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64843 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56058 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55876 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68187 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6511 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48671 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55039 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37364 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54239 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58473 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66905 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58361 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46089 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57512 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69981 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51931 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61093 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57446 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10056 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12406 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16915 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21796 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09443 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.29335 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36296 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18304 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2089 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23193 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15582 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21563 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31102 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.30583 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32953 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15873 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40399 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46238 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26181 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31862 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32622 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.53037 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17897 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25836 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35391 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36803 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3666 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43398 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49664 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49976 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28938 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36034 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35621 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58294 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20295 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30185 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39604 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39644 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22317 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45748 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52539 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31431 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40068 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38536 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61644 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22463 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33908 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42775 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48374 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41807 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25566 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47253 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54531 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33736 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43381 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41117 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61776 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22701 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34296 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43057 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48714 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42032 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47362 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54731 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34024 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4366 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41358 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.229 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34552 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43214 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48901 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42185 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26218 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47432 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54856 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34247 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43829 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41531 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10056 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12406 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16915 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21796 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09443 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.29335 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36296 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18304 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2089 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23193 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.5097 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1901 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25523 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36012 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34002 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37938 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18925 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45554 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50579 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30602 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36437 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37869 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24093 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44155 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43443 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46357 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25188 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52159 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57882 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37174 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44348 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44016 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73783 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30959 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45391 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5385 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56789 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55593 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34651 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58889 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66857 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45897 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54972 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52344 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91879 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47903 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67374 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72522 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79351 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72484 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56424 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.7063 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80906 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64739 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7056 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.99334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.76163 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.92366 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.91297 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.95494 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.9412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.92259 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.84259 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.86452 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.95927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.90887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.91189 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.92967 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.89904 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26208 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45415 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49443 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36066 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46751 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6897 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43096 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47452 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.48311 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18175 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.32842 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3323 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47017 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32416 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27091 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2877 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36847 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26998 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36958 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31361 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14847 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27578 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27237 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39098 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24745 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22526 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21148 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.26861 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.24285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20843 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29103 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23784 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.24146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10472 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18717 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27705 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15753 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16094 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13022 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16587 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.14586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.13605 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19542 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15495 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.034 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06136 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05446 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08155 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05376 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03332 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04368 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03693 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04107 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05685 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04605 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00256 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00412 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00483 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00278 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00195 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00269 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00289 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00352 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00298 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26208 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45415 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49443 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36066 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46751 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6897 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43096 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47452 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31973 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49568 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53098 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66875 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57001 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43536 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52671 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50135 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60695 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55487 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33072 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51389 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54842 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68089 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58497 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45354 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53554 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75889 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51689 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61952 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56744 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33822 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52525 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55636 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68796 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59311 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46458 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5404 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76442 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5268 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62825 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80186 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34542 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53112 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56174 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69186 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59799 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54377 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76652 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53228 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63214 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58164 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34604 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53167 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56215 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69208 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59835 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47292 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54413 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76665 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53274 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58204 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34657 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53189 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56244 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69221 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59862 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47323 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54446 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76674 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53305 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63263 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58227 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59946 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44578 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47062 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59184 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54924 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55024 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48259 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61517 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58091 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59125 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66552 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63905 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66294 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64867 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61453 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60832 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66417 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68993 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67114 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66311 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62836 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72263 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66936 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70395 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68992 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68013 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6738 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20713 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.18982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31481 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44578 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33359 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43555 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34811 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55622 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40406 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46587 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39002 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56928 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46011 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49587 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43036 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57941 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46662 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51889 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50496 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52036 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20713 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.18982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31481 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44578 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37519 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49185 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38456 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4702 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69478 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55908 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.606 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59374 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.71919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.71934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.82329 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.87251 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.86812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.8432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.88929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.84016 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84835 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89954 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93574 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99663 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.99157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59946 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44578 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34335 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.26183 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22086 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.25385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.17292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.17521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.17171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.16237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15994 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08233 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07724 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07343 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04452 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05388 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01871 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59946 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44578 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71171 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67159 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53016 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50593 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55622 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68665 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62154 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5498 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52047 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56928 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69422 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63159 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57941 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69833 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63868 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73578 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69851 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72449 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73268 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73596 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69863 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58561 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-m3/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/bge-m3/bce-reranker-base_v1/results.json deleted file mode 100644 index deaf4bcc47735fbb21ef2f98433db2ef2fe8c360..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-m3/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39311 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65056 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5917 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63333 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55302 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51634 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54322 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76534 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53091 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65359 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56239 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36568 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59153 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58173 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60184 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51608 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47386 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54877 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67293 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49282 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60479 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55104 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37744 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59015 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59152 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59771 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53571 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45998 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56782 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.508 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61508 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56018 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4008 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61763 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62547 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62549 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57005 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48519 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59352 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72916 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54101 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6486 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59476 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42596 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6527 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65486 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68943 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60828 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52707 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61159 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75232 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57373 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68063 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62519 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42921 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65596 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65805 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69396 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53279 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61321 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67399 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57691 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68366 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62794 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42921 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65596 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65805 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69396 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53279 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61321 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67399 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57691 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68366 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62794 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14712 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20269 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17011 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22882 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13526 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33069 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39665 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21908 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25739 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26674 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24096 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35708 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40188 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32664 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37305 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25766 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46359 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54128 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34418 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39468 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.60193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28669 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.43884 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4671 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41544 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43019 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31533 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50598 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59824 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39838 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44701 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.67795 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32583 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50997 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53513 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51104 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46989 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37176 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53798 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63853 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43907 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5496 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49695 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3378 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53167 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55334 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55252 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48609 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39338 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54593 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65065 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45399 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56798 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51205 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69626 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33829 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53224 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55394 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55355 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48682 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54616 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65089 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45453 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56858 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5126 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69626 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33829 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53224 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55394 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55355 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48682 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54616 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65089 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45453 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56858 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5126 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14712 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20269 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17011 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22882 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13526 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33069 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39665 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21908 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25739 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26674 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39653 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45613 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37007 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43849 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51344 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40638 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45983 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45738 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36518 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56539 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50215 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54481 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39746 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59534 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68553 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50905 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57952 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55289 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.84774 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45009 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64935 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6921 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67011 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64209 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50955 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67176 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78311 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60642 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70132 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66601 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52818 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.73999 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.77463 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83199 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76676 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.62288 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73541 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84989 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70697 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.78949 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7545 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39311 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65056 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5917 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63333 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55302 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51634 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54322 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76534 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53091 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65359 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56239 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.54295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29262 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51247 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45209 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53795 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39816 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34448 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44987 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38186 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48089 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40168 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24464 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.43465 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37076 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47182 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31681 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35767 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25905 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34413 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30572 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39739 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32302 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16335 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2901 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25489 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33969 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.1966 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24133 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15855 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20905 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1933 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26352 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21236 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03805 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.0675 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05862 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08595 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04655 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03475 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04665 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04538 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.06069 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04951 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39311 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64938 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59108 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63412 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55302 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51801 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54322 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76534 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53091 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65359 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56239 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82673 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45558 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72893 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67513 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71963 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6445 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6157 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59453 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62546 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73024 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.46863 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.73919 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68756 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73089 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65619 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.62888 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60441 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82676 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63603 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7415 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66778 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47337 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74289 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69194 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73577 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66062 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63341 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60802 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8298 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64085 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74498 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67376 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8376 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47593 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74431 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69307 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73775 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63541 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61028 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.83071 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64302 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74637 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67587 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47607 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.7444 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69316 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73785 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66364 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63559 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61037 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.83077 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64313 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67593 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47607 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.7444 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69316 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73785 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66364 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63559 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61037 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.83077 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64313 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67593 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63388 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6275 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63338 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57193 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52801 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74693 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65119 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55619 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66272 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56388 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57817 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69886 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61892 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74558 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7523 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62296 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74558 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7523 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62296 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26129 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50888 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42058 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40498 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5009 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55979 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4878 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44977 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50964 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60203 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60321 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5591 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49016 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51866 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62972 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62993 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61943 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57503 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5278 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62007 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52819 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62007 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52819 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26129 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56509 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4689 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62651 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61338 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66612 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58679 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69478 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77011 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.75734 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.83575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.77729 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76305 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.93345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88476 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.87686 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94378 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63388 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43369 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4408 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.20884 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13896 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.34103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24672 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07631 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.07029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.08 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04769 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05617 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01888 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63388 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38956 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76837 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70674 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77832 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71958 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50984 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78174 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60357 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51886 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78368 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72875 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.528 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.795 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78378 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72907 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52839 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.795 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78378 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72907 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52839 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-m3/bge-reranker-large/results.json b/AIR-Bench_24.04/bge-m3/bge-reranker-large/results.json deleted file mode 100644 index 4118df67867716cd4a515972393dfaa93949f07a..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-m3/bge-reranker-large/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43365 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5601 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72163 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43527 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42397 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47776 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68271 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53661 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39586 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60437 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69404 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42371 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50556 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44798 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70918 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45717 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63825 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53662 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40462 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60455 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56914 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68644 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44648 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49682 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46975 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72849 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47774 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55181 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42291 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63252 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59867 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71307 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48912 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50118 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76115 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51505 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67798 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58323 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44691 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66007 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7465 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54449 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53641 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68841 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54983 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70103 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6149 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44994 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66313 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64059 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74915 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55069 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54196 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69065 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55287 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70361 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61827 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44994 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66313 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64059 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74915 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55069 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54196 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69065 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55287 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70361 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61827 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18028 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19764 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2429 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19442 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.183 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14758 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26759 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40748 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19092 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26305 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27267 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36195 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38671 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39048 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30345 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27774 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37571 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56952 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31326 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43582 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38291 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3177 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44852 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45212 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49844 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35366 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34439 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41279 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6326 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37035 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51394 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44024 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35534 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52528 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51594 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61404 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39433 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40909 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44382 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67339 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41408 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58037 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4882 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36667 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54285 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53653 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63832 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41541 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42535 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45744 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68118 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42922 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59483 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54343 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63892 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41641 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45818 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68134 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42967 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59532 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50441 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54343 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63892 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41641 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45818 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68134 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42967 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59532 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50441 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18028 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19764 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2429 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19442 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.183 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14758 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26759 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40748 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19092 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26305 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30602 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40673 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43358 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4294 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36153 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32283 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42804 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.621 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37682 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48712 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44589 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73758 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53827 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53909 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57615 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46454 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4331 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50357 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7276 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66248 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48735 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60997 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55178 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.87861 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45651 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66817 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66109 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75358 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58058 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55409 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59355 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8152 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5978 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66091 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.52959 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74053 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.76867 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8398 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.759 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.63164 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71445 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85313 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70698 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.79045 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.75107 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43365 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5601 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72163 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43527 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42397 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47776 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68271 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53661 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.57856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30354 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52937 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43432 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62309 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3306 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4578 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27865 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48104 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36183 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51178 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39738 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46531 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24964 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45068 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35985 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54214 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3877 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21653 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36581 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29994 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32665 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16369 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30124 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24542 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38555 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17627 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26177 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13817 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21894 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19359 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27415 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21201 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03808 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0583 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08651 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04609 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.06006 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03401 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04678 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03884 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04551 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.06088 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04943 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43309 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72147 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43527 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42397 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47776 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68271 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53603 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.48686 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.73699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63548 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79008 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.75694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52431 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.65457 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4837 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84783 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57135 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.76183 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62908 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49649 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64722 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79819 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.76756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.66704 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49455 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8525 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72086 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58596 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.76994 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64431 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.49955 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.74979 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65374 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80118 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54952 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.67101 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50219 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85415 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59253 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77256 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65043 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50208 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75065 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65657 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80221 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55551 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.67204 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50668 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85437 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59573 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65313 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75072 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65672 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80226 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55574 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6721 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50705 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59585 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77321 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65323 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.50225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75072 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65672 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80226 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55574 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6721 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50705 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59585 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.77321 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65323 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57551 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3431 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55646 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51496 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5478 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5686 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36436 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58774 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64118 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60883 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69708 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68789 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51537 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6373 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65446 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65678 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64509 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65446 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65678 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64509 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.1904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15673 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.37945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46189 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24856 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52276 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54003 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43671 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5489 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54116 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53816 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36046 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55548 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56835 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55615 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56835 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55615 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.1904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15673 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40294 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50949 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65462 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61412 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38133 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73092 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65002 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73106 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.498 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.79668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.9332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.93919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.81053 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.9109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82889 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.91126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43449 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40143 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26412 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21821 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30215 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14618 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19167 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.1527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.16104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07952 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.0472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0524 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02677 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01839 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61224 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70199 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67921 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42851 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52276 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69144 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44859 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53922 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70119 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69849 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45952 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54877 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6429 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4703 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55541 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70588 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70588 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5561 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results_20240513174259-3fc82c8b49ec8b8d89d6268dc253cc1c.json similarity index 91% rename from AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results.json rename to AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results_20240513174259-3fc82c8b49ec8b8d89d6268dc253cc1c.json index 738ff892654868e748e319ad4a441d7e86038189..6f5e361f4d9a7aad4694a471f557c579ae7db35a 100644 --- a/AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results.json +++ b/AIR-Bench_24.04/bge-m3/bge-reranker-v2-m3/results_20240513174259-3fc82c8b49ec8b8d89d6268dc253cc1c.json @@ -4,9 +4,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "ndcg_at_1" + "metric": "ndcg_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -100,9 +103,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "ndcg_at_3" + "metric": "ndcg_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -196,9 +202,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "ndcg_at_5" + "metric": "ndcg_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -292,9 +301,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "ndcg_at_10" + "metric": "ndcg_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -388,9 +400,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "ndcg_at_50" + "metric": "ndcg_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -484,9 +499,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "ndcg_at_100" + "metric": "ndcg_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -580,9 +598,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "ndcg_at_1000" + "metric": "ndcg_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -676,9 +697,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "map_at_1" + "metric": "map_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -772,9 +796,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "map_at_3" + "metric": "map_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -868,9 +895,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "map_at_5" + "metric": "map_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -964,9 +994,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "map_at_10" + "metric": "map_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1060,9 +1093,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "map_at_50" + "metric": "map_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1156,9 +1192,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "map_at_100" + "metric": "map_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1252,9 +1291,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "map_at_1000" + "metric": "map_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1348,9 +1390,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "recall_at_1" + "metric": "recall_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1444,9 +1489,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "recall_at_3" + "metric": "recall_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1540,9 +1588,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "recall_at_5" + "metric": "recall_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1636,9 +1687,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "recall_at_10" + "metric": "recall_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1732,9 +1786,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "recall_at_50" + "metric": "recall_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1828,9 +1885,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "recall_at_100" + "metric": "recall_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -1924,9 +1984,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "recall_at_1000" + "metric": "recall_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2020,9 +2083,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "precision_at_1" + "metric": "precision_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2116,9 +2182,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "precision_at_3" + "metric": "precision_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2212,9 +2281,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "precision_at_5" + "metric": "precision_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2308,9 +2380,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "precision_at_10" + "metric": "precision_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2404,9 +2479,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "precision_at_50" + "metric": "precision_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2500,9 +2578,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "precision_at_100" + "metric": "precision_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2596,9 +2677,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "precision_at_1000" + "metric": "precision_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2692,9 +2776,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "mrr_at_1" + "metric": "mrr_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2788,9 +2875,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "mrr_at_3" + "metric": "mrr_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2884,9 +2974,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "mrr_at_5" + "metric": "mrr_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -2980,9 +3073,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "mrr_at_10" + "metric": "mrr_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3076,9 +3172,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "mrr_at_50" + "metric": "mrr_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3172,9 +3271,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "mrr_at_100" + "metric": "mrr_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3268,9 +3370,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", - "metric": "mrr_at_1000" + "metric": "mrr_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3364,9 +3469,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "ndcg_at_1" + "metric": "ndcg_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3466,9 +3574,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "ndcg_at_3" + "metric": "ndcg_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3568,9 +3679,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "ndcg_at_5" + "metric": "ndcg_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3670,9 +3784,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "ndcg_at_10" + "metric": "ndcg_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3772,9 +3889,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "ndcg_at_50" + "metric": "ndcg_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3874,9 +3994,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "ndcg_at_100" + "metric": "ndcg_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -3976,9 +4099,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "ndcg_at_1000" + "metric": "ndcg_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4078,9 +4204,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "map_at_1" + "metric": "map_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4180,9 +4309,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "map_at_3" + "metric": "map_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4282,9 +4414,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "map_at_5" + "metric": "map_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4384,9 +4519,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "map_at_10" + "metric": "map_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4486,9 +4624,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "map_at_50" + "metric": "map_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4588,9 +4729,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "map_at_100" + "metric": "map_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4690,9 +4834,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "map_at_1000" + "metric": "map_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4792,9 +4939,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "recall_at_1" + "metric": "recall_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4894,9 +5044,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "recall_at_3" + "metric": "recall_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -4996,9 +5149,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "recall_at_5" + "metric": "recall_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5098,9 +5254,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "recall_at_10" + "metric": "recall_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5200,9 +5359,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "recall_at_50" + "metric": "recall_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5302,9 +5464,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "recall_at_100" + "metric": "recall_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5404,9 +5569,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "recall_at_1000" + "metric": "recall_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5506,9 +5674,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "precision_at_1" + "metric": "precision_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5608,9 +5779,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "precision_at_3" + "metric": "precision_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5710,9 +5884,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "precision_at_5" + "metric": "precision_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5812,9 +5989,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "precision_at_10" + "metric": "precision_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -5914,9 +6094,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "precision_at_50" + "metric": "precision_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6016,9 +6199,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "precision_at_100" + "metric": "precision_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6118,9 +6304,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "precision_at_1000" + "metric": "precision_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6220,9 +6409,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "mrr_at_1" + "metric": "mrr_at_1", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6322,9 +6514,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "mrr_at_3" + "metric": "mrr_at_3", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6424,9 +6619,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "mrr_at_5" + "metric": "mrr_at_5", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6526,9 +6724,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "mrr_at_10" + "metric": "mrr_at_10", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6628,9 +6829,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "mrr_at_50" + "metric": "mrr_at_50", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6730,9 +6934,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "mrr_at_100" + "metric": "mrr_at_100", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { @@ -6832,9 +7039,12 @@ "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, + "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", - "metric": "mrr_at_1000" + "metric": "mrr_at_1000", + "timestamp": "2024-05-13T17:42:59Z", + "is_anonymous": "False", + "revision": "3fc82c8b49ec8b8d89d6268dc253cc1c" }, "results": [ { diff --git a/AIR-Bench_24.04/bge-m3/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/bge-m3/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index 659c368f3c1be17d5c13c71c9d924a8f98e0823d..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-m3/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.16355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30094 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16205 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5031 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59313 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52841 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17452 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32698 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49047 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23827 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52607 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28776 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.1621 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50608 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55588 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49248 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15679 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47118 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32073 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44812 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24446 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50715 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.18743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29755 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17081 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51597 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54185 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50687 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15901 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49369 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34416 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45418 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25902 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51351 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.22632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32487 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19633 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55218 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.565 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54696 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52298 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3867 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66035 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4901 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29381 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54622 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.36138 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37135 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30835 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60502 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65042 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59338 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2865 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55459 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46795 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68677 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5413 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59368 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.41108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37794 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35824 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60982 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65946 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59867 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49142 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54535 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43032 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59815 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.41108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37794 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35824 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60982 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65946 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59867 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55918 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49142 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54535 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43032 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59815 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12253 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.0483 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22253 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16233 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23116 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04883 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27542 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16689 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20869 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.10881 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.10644 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19207 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08731 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35067 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.30585 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06578 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36632 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.07818 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39566 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24176 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31409 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36417 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22211 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10675 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40425 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37659 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0816 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41148 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09494 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43322 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.26886 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3536 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.18638 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40695 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.14822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25254 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12843 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4611 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45283 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44972 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11494 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.462 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29393 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44843 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19056 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27348 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16477 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49028 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50289 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46983 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14834 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47557 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31942 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59296 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41333 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24727 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47127 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27448 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17387 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5049 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47069 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15502 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47613 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32343 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41391 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25402 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47211 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27448 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17387 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5049 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47069 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15502 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47613 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32343 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41391 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25402 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47211 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12253 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.0483 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22253 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16233 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23116 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04883 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27542 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16689 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20869 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.10881 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23209 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11456 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40558 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34353 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4233 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09905 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45298 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.30555 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36829 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20394 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42427 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29508 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16462 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49918 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5151 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14074 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53286 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38347 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44786 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26516 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50905 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30596 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24149 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62378 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59992 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62209 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21516 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61453 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49197 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55067 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36344 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6128 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51435 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5628 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.76859 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81518 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76274 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50202 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71866 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75786 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70244 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65259 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.747 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.16355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30094 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16205 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5031 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59313 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52841 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17452 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32698 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49047 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23827 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52607 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.14354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22265 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14084 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38352 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36985 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13721 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.29295 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21541 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38313 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33738 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1832 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3595 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.12324 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18456 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12799 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31561 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41586 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28471 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12321 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22385 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26285 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.15734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28377 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.09581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12909 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10136 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22237 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29786 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18325 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09895 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14082 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.11626 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1725 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11931 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18981 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.04967 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03703 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05064 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05804 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08424 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04627 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04779 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04002 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04522 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.04948 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04905 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30094 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16205 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5031 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59392 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.529 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32698 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49047 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23827 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52607 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.24257 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36693 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22402 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59387 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67239 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61287 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23186 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51377 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41741 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72708 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57635 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31818 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61677 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38025 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24471 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60824 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68469 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6269 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25208 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52576 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43864 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58915 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34201 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63119 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28044 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38879 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26039 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61617 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69208 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26837 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53199 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45249 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35816 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63818 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39331 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27665 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61914 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69543 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63749 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28357 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53537 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46255 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59956 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36962 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64131 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39362 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27784 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61925 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69562 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63763 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28453 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53567 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46308 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59977 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3705 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64141 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39362 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27784 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61925 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69562 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63763 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28453 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53567 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46308 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59977 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3705 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64141 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47541 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53155 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61337 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44843 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45557 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43154 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50698 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49594 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62483 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58701 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53377 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57155 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51302 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5587 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63816 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63281 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71635 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6015 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64657 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60959 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64657 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60959 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6096 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20291 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.2942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29698 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.29146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.503 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32528 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47657 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39119 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53692 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37823 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49163 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43724 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57051 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50206 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47144 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59464 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44789 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56552 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47158 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51215 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48113 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51294 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48113 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51294 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20291 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.2942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29698 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36374 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37732 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54898 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47174 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62117 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4633 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65863 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62783 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7232 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59484 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.71556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.86076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.91024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47541 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45957 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34517 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19813 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25266 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.24162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26486 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.1828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04704 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05497 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01839 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47541 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62235 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62713 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47657 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49163 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76489 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67976 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50206 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65268 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76697 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59725 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52832 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51217 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65286 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76713 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59761 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51296 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65286 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76713 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59761 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51296 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-m3/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/bge-m3/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index 02eb700aa3fd730b522a6a14f9aa4e341a9fcad0..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-m3/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30483 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48575 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59171 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23102 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44101 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46814 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48527 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28105 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50849 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29074 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19811 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54722 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47344 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21367 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4602 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44149 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44327 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48729 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29763 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21139 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49032 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48706 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21443 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4794 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46242 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44925 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3055 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49602 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32412 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.248 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52662 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55984 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53016 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24372 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50811 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50511 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48882 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34738 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53107 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37064 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35973 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58708 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64722 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58126 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33989 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54477 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56966 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53844 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44421 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58214 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.48201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37718 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59292 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65602 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58596 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3658 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54994 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58345 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5873 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.48201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37718 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59292 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65602 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58596 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3658 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54994 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58345 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5873 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.10672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11894 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06064 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2105 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16098 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22024 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05989 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27054 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24519 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24556 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.16845 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19121 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10711 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32805 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29995 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35248 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10612 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38489 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3419 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30717 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.18265 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34954 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22096 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13255 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37909 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39498 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12858 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41928 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3737 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55789 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34682 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2138 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39103 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.22944 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25157 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16344 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43275 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44484 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43319 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15641 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44784 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40315 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38604 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24826 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43168 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27263 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20496 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46583 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49598 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45508 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1915 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46333 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42737 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40888 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28621 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45657 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27355 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21127 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46699 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49795 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45583 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19634 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46399 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42986 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40942 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29052 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45752 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27355 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21127 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46699 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49795 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45583 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19634 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46399 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42986 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40942 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29052 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45752 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.10672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11894 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06064 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2105 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16098 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22024 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05989 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27054 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24519 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24556 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.21158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23028 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14024 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33881 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40922 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13758 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44118 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36274 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23657 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4078 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28119 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29308 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20445 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4735 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44562 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49508 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19141 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5144 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44465 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31548 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49338 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37951 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30887 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60067 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59696 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61057 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2828 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59399 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60234 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5583 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43536 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6039 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51385 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62042 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.7643 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81638 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.7657 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54782 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79994 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70424 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71409 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74359 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30483 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48575 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59171 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23102 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44101 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46814 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48527 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28105 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50849 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2054 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22747 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17089 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36039 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48056 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3554 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18966 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28496 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29085 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33603 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22797 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3429 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17159 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18579 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.1591 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30037 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40791 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27499 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16731 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21577 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.22156 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26262 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19548 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27264 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.13238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13032 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13029 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21183 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.295 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17897 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.1364 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.14378 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17429 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.14777 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18325 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0548 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03708 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05659 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05776 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0843 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04641 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05216 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03412 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04281 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04526 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05409 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04889 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30539 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2033 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48637 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59155 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23102 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44101 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46814 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48527 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28164 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50849 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.35297 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36785 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27519 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57043 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67097 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58651 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3084 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5061 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56601 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57269 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37889 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59822 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37324 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38071 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30168 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58715 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68365 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60071 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51689 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58391 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58555 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40369 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61337 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.39148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39001 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31959 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59654 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69116 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60924 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34755 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52277 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59386 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59294 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42043 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62126 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40359 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39435 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33134 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60041 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61354 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35849 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52678 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59917 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59669 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42869 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62477 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3947 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33227 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60056 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69458 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61372 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35903 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52711 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59941 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59687 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42915 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62492 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3947 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33227 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60056 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69458 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61372 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35903 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52711 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59941 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59687 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42915 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62492 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65591 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57585 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5535 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5155 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50097 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62775 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44802 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49634 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58184 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54697 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66895 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50576 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60974 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68361 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71838 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58948 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5875 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64326 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69122 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60253 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64925 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69122 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72406 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60253 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64925 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27097 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35827 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1999 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50261 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52544 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38902 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36084 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35248 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5413 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5772 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39939 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55319 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49416 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4645 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56113 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60135 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43808 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5617 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60135 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43808 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5617 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27097 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35827 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1999 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55079 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50348 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63454 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48371 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43731 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64268 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63055 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70281 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64537 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73345 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.71365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.78715 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.86614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86336 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87748 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84728 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.91518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65591 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40591 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21151 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26612 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14056 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.24595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26787 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18579 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07871 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06902 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07633 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.05003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.0472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65591 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70513 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73297 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55829 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52544 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66186 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74615 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5781 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5413 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67047 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7504 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55319 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75916 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75327 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58553 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56113 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75335 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5617 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75335 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5617 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-m3/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/bge-m3/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index fd39d0ddcab6b10c55e12a8fd2088fa6e52cd9eb..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-m3/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32315 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54744 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.557 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70628 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57528 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4858 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69803 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50029 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55258 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55888 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32289 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50976 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55652 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66937 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54277 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43158 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50349 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48006 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51834 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53596 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65079 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3331 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5057 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56521 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66349 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56979 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42114 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52243 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64721 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52675 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54785 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35446 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53445 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.596 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69284 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60725 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44303 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54984 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68486 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53472 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55906 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57833 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7552 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38904 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5892 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63097 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72953 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6306 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49532 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57321 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71433 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56351 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61147 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61166 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75885 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39508 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5963 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63697 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73376 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63489 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57783 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71748 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56666 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61964 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61634 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75885 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39508 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5963 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63697 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73376 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63489 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57783 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71748 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56666 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61964 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61634 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11982 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18603 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23699 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12621 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28645 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.35382 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19645 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20778 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25154 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45677 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20538 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28992 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37789 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3692 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39758 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22784 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41801 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4938 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32899 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33998 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37606 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.53471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24397 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35706 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44132 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47531 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46388 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28087 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45906 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54901 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3881 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39829 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43066 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27968 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42067 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5062 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59064 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50964 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32997 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49124 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43282 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4534 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.477 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29492 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44953 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52683 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61587 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35467 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50108 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60224 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58765 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44548 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47955 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49387 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29581 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45093 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52779 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6167 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52062 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35637 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50159 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60281 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44597 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48108 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49465 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29581 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45093 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52779 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6167 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52062 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35637 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50159 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60281 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44597 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48108 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49465 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11982 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18603 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23699 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12621 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28645 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.35382 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19645 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20778 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25154 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.503 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25548 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33761 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43532 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40723 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46124 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26857 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47781 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55001 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.394 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39249 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44061 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33001 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44886 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5396 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55395 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58494 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36095 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55447 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65156 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50634 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54464 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40839 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57534 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66156 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73477 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68899 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46303 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.63352 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75186 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61328 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61964 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64807 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.93125 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.51647 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.75971 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83189 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76555 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60795 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71748 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84299 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.70698 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.76764 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.74429 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.54393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.75401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.78843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.85061 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.77778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.64606 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.74381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.85694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.72196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.80204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.76576 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32315 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54744 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.557 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70628 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57528 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4858 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69803 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50029 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55258 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55888 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50037 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26282 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44824 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4335 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60226 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3891 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32366 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42764 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38417 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39426 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40419 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21943 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37996 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35836 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52837 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3413 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32864 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24593 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32805 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.28998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31542 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34486 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31939 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14842 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25993 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24622 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37966 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21189 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22233 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15218 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20137 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23137 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2082 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03723 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06615 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05812 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08613 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04671 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05825 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03432 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04619 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04542 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05914 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04915 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01941 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02978 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.04382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02381 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01753 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02308 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02518 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00238 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00308 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32315 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54744 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.557 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70707 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57586 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4858 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69803 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50029 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55258 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55829 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40172 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64565 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64694 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77562 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6653 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.57941 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55195 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7702 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72052 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59908 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64052 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65436 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4153 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65891 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65825 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7834 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67813 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55885 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77824 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61245 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65627 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66725 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42045 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66391 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66305 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78696 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68227 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59992 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56322 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61725 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66219 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67146 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42358 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66629 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66486 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78821 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68416 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60308 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56597 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78329 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61967 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66496 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67357 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78416 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42386 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66647 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78833 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68432 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60331 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5663 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78336 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61977 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66524 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67373 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78416 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42386 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66647 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78833 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68432 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60331 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5663 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78336 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61977 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66524 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67373 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66851 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59452 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65001 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59437 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61231 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71742 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70583 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74496 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66615 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64081 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76447 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69555 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66488 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76797 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70291 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67016 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76797 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70291 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67016 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37435 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25184 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39755 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41103 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56024 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48206 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59874 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56988 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61762 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60066 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65173 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55782 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50841 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58161 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66068 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57042 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58681 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6347 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57148 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6341 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5873 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6347 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57148 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6341 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5873 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37435 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25184 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58778 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47048 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69478 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69579 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60465 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73896 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.84083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.84611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.77268 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.86247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.79087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.71614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.82731 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90588 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89034 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88454 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.87315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93574 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.92765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.94563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.94029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.89631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.96787 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56256 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44977 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45878 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44353 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37143 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.36022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14779 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35435 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.35 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.23183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.22204 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.20919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08273 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.07029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0771 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.05042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05596 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01871 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77505 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70719 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56024 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77563 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76075 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8116 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71976 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56988 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72443 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58165 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81504 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66651 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58687 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72676 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66693 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58736 - } - ] - }, - { - "config": { - "retrieval_model": "bge-m3", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72676 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66693 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58736 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-small-en-v1.5/NoReranker/results.json b/AIR-Bench_24.04/bge-small-en-v1.5/NoReranker/results.json deleted file mode 100644 index 8e87fd17181570ece2a73539c58799913395f34a..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-small-en-v1.5/NoReranker/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1749 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48799 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37603 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39443 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43764 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40235 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33219 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41134 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1626 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4049 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4172 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3366 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41463 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18189 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43171 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43677 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22723 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49539 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54029 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48161 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4222 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49033 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24352 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50965 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55247 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48956 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43937 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50449 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27982 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53308 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5736 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50804 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46947 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52818 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1792 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23542 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1579 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20868 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10253 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27113 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32878 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3343 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23159 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29009 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11703 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31081 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.365 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3596 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25535 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32159 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13407 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34945 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38173 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27745 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34919 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15077 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41425 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39721 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29932 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37088 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1531 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38115 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41631 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3984 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37324 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15494 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38279 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41775 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39929 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30397 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3748 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06603 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1792 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23542 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1579 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20868 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12376 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37658 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39323 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27365 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3403 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15775 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39109 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45491 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45503 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33433 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40822 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21588 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55108 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52467 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41291 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48863 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35089 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.72323 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65524 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64401 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.64709 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.85887 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.92662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.89797 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.82304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.84264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.84297 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.83665 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1749 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48799 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37603 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12475 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31908 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24669 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24263 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2853 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10017 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24399 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24312 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.18271 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18637 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22496 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0744 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17026 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.11527 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.13167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12161 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.14698 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02612 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05084 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.07897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04265 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03083 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03735 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04233 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00219 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00322 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00269 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00279 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1749 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48799 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37603 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21377 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48152 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55741 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4455 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51465 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22329 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49803 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5717 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4547 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46194 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52935 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2325 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50756 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58127 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4618 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53775 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23826 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5128 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5866 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46649 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51329 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4668 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47801 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54329 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23996 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51358 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58723 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46717 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67648 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47837 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54357 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49587 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42439 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42654 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48355 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46695 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42668 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51017 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49408 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5429 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4754 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53283 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55711 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56982 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58417 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62074 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66924 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58185 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61975 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64357 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59627 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59137 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1974 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.2649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.39104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.33745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40023 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30199 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27977 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45649 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.39237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42646 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47135 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38286 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48106 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41981 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47739 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48926 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48019 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40717 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52281 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49041 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40873 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37107 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49089 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1974 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3007 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.43947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44221 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35221 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56225 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4107 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38671 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62651 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59622 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5465 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69478 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.76013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.82163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78577 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.79583 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.92864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.82285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.86968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.73722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.85944 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.98759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.98859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.97369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.97569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99875 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41441 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32168 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.36577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18742 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36578 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.23333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1253 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23724 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.16339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.14594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.14866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16421 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.13613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.06948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.06728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.04905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.03961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01719 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00419 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5754 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62455 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56239 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45649 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61594 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61681 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57523 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47135 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62695 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48106 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5933 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50704 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48926 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.649 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59373 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49041 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65056 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64924 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59391 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49089 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-small-en-v1.5/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/bge-small-en-v1.5/bce-reranker-base_v1/results.json deleted file mode 100644 index 3fd93e66d5cb6d74f6cd783a18bf4a87247976e8..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-small-en-v1.5/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31594 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52783 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49856 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5126 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27998 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51238 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48434 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4861 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44506 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49002 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28046 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52007 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49636 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50483 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45037 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49365 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2983 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54547 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53438 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53042 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48456 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52497 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32655 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58895 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57906 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5521 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51978 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56427 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32929 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59201 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58492 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55382 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56647 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32929 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59201 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58492 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55382 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56647 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22473 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22081 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28773 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19941 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24247 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18335 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35238 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35257 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40428 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30627 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34745 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21021 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40695 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39677 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44239 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34891 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38856 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23635 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45618 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43373 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47013 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38613 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42777 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25038 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48241 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47992 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40228 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44789 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25079 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48294 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45368 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48014 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40283 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44835 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25079 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48294 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45368 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48014 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40283 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44835 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22473 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22081 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28773 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19941 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24247 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21253 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40164 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41214 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45846 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35763 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40257 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26336 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49415 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45178 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50007 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53535 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62021 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44139 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48315 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32948 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60053 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60631 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61177 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54147 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58838 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40934 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71355 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.74778 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68374 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69409 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31594 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52783 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49856 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5126 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21914 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36692 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30578 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34142 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34915 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17446 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3197 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28307 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23117 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26574 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21543 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.30848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17967 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.1424 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18231 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03027 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05449 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08373 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04479 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0325 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04162 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04605 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31594 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52912 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52841 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49913 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5126 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36045 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61121 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61531 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53607 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57953 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60076 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36922 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62351 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62814 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54449 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58961 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61429 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37427 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6299 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6346 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55018 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59598 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62267 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37712 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63218 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63773 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55238 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59863 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62486 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63228 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63793 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55251 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59881 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62491 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63228 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63793 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55251 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59881 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62491 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58695 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56274 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48647 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56638 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4224 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51947 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65144 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5969 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6639 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55281 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69286 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69879 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69212 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64874 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57445 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58644 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69488 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65671 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59037 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69488 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65671 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59037 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19506 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32456 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38113 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47225 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38407 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45448 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41443 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45897 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51469 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43886 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51701 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47276 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55569 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49102 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48701 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54091 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57371 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51666 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4946 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51771 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49495 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51771 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49495 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19506 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32456 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42619 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41648 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44447 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55194 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57831 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49787 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62088 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54105 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65863 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67239 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72748 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.8108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.72655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.7223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.75904 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.87082 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.8228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.81326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.88362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.88597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85365 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8314 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.87316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.80368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.90763 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39875 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41712 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43905 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32568 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22086 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16677 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.29528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21721 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0759 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04608 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01815 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00093 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3494 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72062 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66621 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45448 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76519 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67632 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47276 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73776 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72424 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48711 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73972 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72679 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49471 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77181 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73265 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72689 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68816 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49506 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77181 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73265 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72689 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68816 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49506 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-small-en-v1.5/bge-reranker-large/results.json b/AIR-Bench_24.04/bge-small-en-v1.5/bge-reranker-large/results.json deleted file mode 100644 index bf42145fda4eae0a8856ffba93f2a408ef8c5f8c..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-small-en-v1.5/bge-reranker-large/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35425 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54461 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49443 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49905 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50491 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56473 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31592 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53056 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46364 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50543 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45482 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.531 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53688 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47836 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51982 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46037 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53317 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32797 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56246 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53009 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54258 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49031 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55741 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34973 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60158 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57538 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5657 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.527 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59083 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35248 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60379 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57846 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56758 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52944 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59256 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35248 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60379 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57846 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56758 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52944 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59256 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14016 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23633 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21546 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31185 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20443 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26784 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21328 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36823 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42887 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31496 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38009 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42532 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38214 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46128 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3582 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4248 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26849 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47774 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48684 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39394 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46385 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28019 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50128 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.448 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49806 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41109 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48156 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28061 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50172 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44848 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4983 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41143 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28061 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50172 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44848 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4983 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41143 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14016 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23633 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21546 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31185 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20443 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26784 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23949 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41397 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39857 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4767 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36538 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43317 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50744 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48757 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54337 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51625 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34862 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61496 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62329 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61008 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54357 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60499 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40919 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71757 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76085 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6827 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65532 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69629 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35425 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54461 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49443 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49905 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50491 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56473 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24505 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40376 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34954 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30894 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34835 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37805 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.193 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33024 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27194 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22852 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27187 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2969 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12554 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22317 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.1833 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.1395 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17348 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19139 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03027 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05472 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04551 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03247 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04194 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04616 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35425 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54523 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49443 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49905 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50491 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56473 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39709 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62278 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57996 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55447 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58251 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64714 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40578 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63399 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59531 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56377 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59491 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65906 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41002 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64011 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60574 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56787 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60033 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66344 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41179 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64256 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6093 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60297 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66533 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41192 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64263 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60942 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57012 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60312 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66535 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41192 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64263 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60942 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57012 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60312 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66535 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6371 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65587 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57463 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5308 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59606 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67373 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65675 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58327 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58407 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61881 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70546 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70309 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71531 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69897 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64507 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7051 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70136 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65116 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64966 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7051 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70136 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65116 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64966 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31578 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3373 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24711 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29936 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48633 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46074 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39639 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5415 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44436 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53031 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42821 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55335 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53376 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56023 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5665 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47704 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56315 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56926 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57981 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58557 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50618 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56945 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50698 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56986 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50698 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56986 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31578 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3373 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24711 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29936 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42616 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5407 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67068 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56001 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62151 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72289 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72835 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70939 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72461 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65604 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.75917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79116 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.87405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.81708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84641 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.88185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.79969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.90361 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6371 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39071 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.22356 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30984 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14458 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07912 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04608 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0541 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01807 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00093 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6371 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44177 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66348 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5415 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72746 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55315 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73275 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56305 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75338 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7351 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68554 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56939 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75654 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73522 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68572 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56981 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75654 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73522 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68572 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56981 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-small-en-v1.5/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/bge-small-en-v1.5/bge-reranker-v2-m3/results.json deleted file mode 100644 index 3c1d411ad4f0a450aa03da52f37d9c44650d6f52..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-small-en-v1.5/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36646 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57683 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59344 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5123 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51589 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59402 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54686 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55335 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52909 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46813 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55098 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32175 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56513 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5448 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47641 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54893 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33232 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5739 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6033 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56488 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50534 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57179 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35703 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61374 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58318 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53949 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60493 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35912 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61624 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63693 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58405 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54139 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60627 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35912 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61624 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63693 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58405 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54139 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60627 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15055 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25987 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26424 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22587 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39036 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41809 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44824 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55645 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33305 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40154 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25244 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44303 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46719 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48396 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59154 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37846 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44459 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27552 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49266 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50677 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50865 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41125 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48104 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28826 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56693 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52272 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51835 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42773 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49931 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28858 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51694 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52309 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51845 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42801 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49958 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28858 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51694 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52309 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51845 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42801 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49958 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15055 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25987 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26424 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25151 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42832 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47834 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50421 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38248 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44887 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29446 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51192 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56949 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46752 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52601 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34431 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61469 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6737 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.63451 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55949 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61116 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4124 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71682 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76533 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68823 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65773 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69776 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36646 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57683 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59344 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5123 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51589 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59402 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.405 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32534 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35336 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38742 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19089 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32478 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23975 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.28801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27753 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29877 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12182 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21859 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.1966 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14448 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17371 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19104 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03039 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05457 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04565 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03266 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04206 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04628 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36646 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57683 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59344 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5123 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51589 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59402 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41014 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64188 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67594 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57687 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59349 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66667 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41622 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65204 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68578 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58488 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60435 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67686 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42004 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6587 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69152 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58766 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77544 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61078 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68194 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42196 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66101 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69358 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5894 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6131 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68378 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42207 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6611 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69365 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77648 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6132 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68379 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42207 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6611 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69365 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77648 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6132 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68379 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63533 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55927 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57711 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63203 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55263 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60235 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69656 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.616 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62479 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72705 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67135 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62678 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64866 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74365 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67595 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64997 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74365 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67595 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64997 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36373 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25205 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44918 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52256 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53748 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49145 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56674 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46488 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55174 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56588 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60429 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51273 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5612 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66331 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56673 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60141 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54073 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56685 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60141 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54073 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56685 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36373 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25205 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44195 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49647 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47865 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69076 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66069 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.67458 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.751 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72068 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6859 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.82965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.7704 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.76632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.81928 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.878 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82975 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.81962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.88757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85445 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85046 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.87725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90158 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92369 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42987 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23025 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45503 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31613 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19651 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21503 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08193 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04608 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05421 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04364 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01847 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00093 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79143 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76573 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7621 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69308 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53748 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7703 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70223 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61851 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55154 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7864 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77504 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70607 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.561 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78697 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77608 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70895 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56652 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80539 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77619 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70917 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56664 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80539 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77619 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70917 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56664 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-small-en-v1.5/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/bge-small-en-v1.5/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index fd9e1d9859b037b17226c74f65ea2138e06d9340..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-small-en-v1.5/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25097 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41512 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43761 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41514 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38244 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43117 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2328 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42662 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41639 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43837 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35555 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42597 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23744 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44144 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43315 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45715 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36644 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43116 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25492 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47474 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47275 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48255 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40638 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46162 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29286 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5311 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5307 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46041 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51638 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29855 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53833 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51899 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46621 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52238 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29855 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53833 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51899 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46621 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52238 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09919 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1908 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25342 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16224 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15402 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29521 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.21701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30741 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36553 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24496 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30482 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17661 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34105 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34572 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3968 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27721 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33743 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19778 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3864 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37739 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42112 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31051 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3699 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41596 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40085 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43498 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33327 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3943 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21532 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40237 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4355 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33416 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39545 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21532 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40237 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4355 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33416 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39545 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09919 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1908 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25342 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16224 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21349 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18158 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35004 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36527 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42785 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29711 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36506 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22944 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43627 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44849 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49841 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37148 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4323 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28893 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54804 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55342 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48032 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52572 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39789 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69703 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73003 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64044 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67845 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25097 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41512 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43761 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41514 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38244 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43117 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18138 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32156 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31127 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26728 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2974 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14681 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2689 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24265 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20454 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.24273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21329 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23386 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10039 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19046 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15782 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12744 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.14493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14633 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1587 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02926 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0531 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.07888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04368 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.032 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04102 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04489 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25097 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41512 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43761 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41577 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38302 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43117 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29937 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50836 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52783 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48444 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46852 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52636 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31123 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52454 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54323 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49583 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48559 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53989 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31791 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53377 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55335 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50078 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49517 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54916 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32222 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53774 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55832 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50429 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50007 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55382 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32248 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53799 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5587 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5045 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50036 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55401 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32248 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53799 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5587 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5045 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50036 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55401 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50442 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40215 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45613 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51921 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45745 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44556 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52861 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42349 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48647 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5709 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.471 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52324 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56088 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57951 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63609 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55534 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56731 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57695 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59091 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56764 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57695 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59091 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56764 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54791 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57252 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.16642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30269 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18219 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22648 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.26836 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.29055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43507 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.33284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45307 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45074 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32681 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33832 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46616 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50803 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36303 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47623 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5092 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40471 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47669 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5092 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40471 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47669 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.16642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30269 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18219 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26263 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48204 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34446 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52209 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38731 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43496 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40833 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48944 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55802 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70683 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78922 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.79297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.87268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.85735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.83344 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81389 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.93694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.85915 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.87587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.75243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.8996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50442 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33719 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33781 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30783 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26704 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.17403 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28092 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3009 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.24677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14303 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.11888 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21321 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23107 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.18363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.13725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07068 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0523 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01799 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00093 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50442 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36948 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52002 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63351 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51776 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4407 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43708 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54374 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53525 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46109 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45274 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54829 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6052 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46821 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56184 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4783 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56517 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60845 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66014 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55542 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49765 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47876 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56517 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60845 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66014 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55542 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49765 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47876 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-small-en-v1.5/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/bge-small-en-v1.5/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index 6b5ca0c8e361d11d3cf19d1b290b6ba5b9734540..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-small-en-v1.5/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25875 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41945 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39804 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41945 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2446 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41727 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39182 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42706 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37116 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41843 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24692 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43059 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4087 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44825 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38131 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43023 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26615 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46634 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47521 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41772 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46191 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3015 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52569 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57343 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52183 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47145 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51585 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30538 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53199 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52858 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51323 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47554 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52014 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30538 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53199 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52858 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51323 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47554 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52014 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09886 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18213 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18973 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25181 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3765 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16511 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20647 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16004 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28523 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.24153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2915 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.35552 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25485 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29621 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18375 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32773 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38832 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28784 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33242 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37506 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35935 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41395 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32042 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36637 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22334 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40652 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38614 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4281 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34391 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3911 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38732 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4286 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3445 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39185 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38732 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4286 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3445 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39185 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09886 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18213 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18973 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25181 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3765 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16511 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20647 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18963 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3387 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34359 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41244 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3135 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35926 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23707 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42262 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4218 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48752 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59884 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38668 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43831 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30302 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54233 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5374 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56264 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48797 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53646 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40528 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70114 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.74594 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67322 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64757 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68462 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25875 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41945 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39804 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41945 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19415 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31454 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28686 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26288 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27922 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29565 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15558 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26295 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2246 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20038 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.25096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22311 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23913 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10738 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18934 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15132 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12688 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1509 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16221 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02985 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0534 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.035 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04153 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04551 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25875 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41202 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41945 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40694 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39804 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41945 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30992 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50103 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49971 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47371 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48835 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51679 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31961 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51831 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48614 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50337 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53311 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52949 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53068 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49215 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51274 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54271 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3312 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53337 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5369 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.496 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51679 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54707 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33143 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53356 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53712 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49623 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.517 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54723 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33143 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53356 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53712 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49623 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.517 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54723 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42403 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4448 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49569 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57326 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36841 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49498 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44851 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51557 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51972 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6148 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41686 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5495 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57587 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60321 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74981 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67018 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51895 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58826 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59705 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6759 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53127 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6341 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59357 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59705 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6759 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53127 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6341 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55289 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59357 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.17215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33358 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15482 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.2921 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45863 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24987 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37296 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3199 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35009 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28298 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38193 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47959 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4102 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52604 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3193 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49367 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4141 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55071 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35886 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50227 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45443 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36081 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45443 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36081 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.14827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.15635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.17215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33358 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15482 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31022 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.29845 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32877 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.35253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30941 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5743 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42879 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62249 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67927 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70572 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72691 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.84767 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79638 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85023 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.93609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.81118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.87193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.86244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.84061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9377 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.84714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.87636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.7774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.8996 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.39624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28051 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19143 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30694 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.33805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.26935 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21858 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.23892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23585 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1245 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22197 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.18839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.17703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.16801 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15519 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07269 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04527 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05219 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04224 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01799 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00093 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60753 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38554 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56256 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4663 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46854 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57861 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69064 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47969 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40737 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47959 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69802 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49363 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49367 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63448 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70094 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50419 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50227 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50464 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58651 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50277 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50464 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58651 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50277 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/bge-small-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/bge-small-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index 589cdd34ed622308f87367af8a4a4b8563b806ee..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/bge-small-en-v1.5/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22321 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40539 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30852 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43351 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20348 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39895 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39216 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33318 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46697 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31886 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40187 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20519 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40324 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41153 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3517 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33315 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40912 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22074 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43067 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45747 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3809 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36331 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44116 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26358 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49366 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5145 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4295 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42164 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49106 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27236 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50692 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52335 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50123 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27236 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50692 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52335 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50123 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07517 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1672 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16636 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17242 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12469 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12301 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26537 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.23277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.28004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26631 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20709 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.271 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14372 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30505 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32175 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.29545 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40737 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24487 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30777 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16393 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34721 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36084 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31886 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2745 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34281 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18075 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37565 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38314 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33581 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29659 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3647 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18209 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37795 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38447 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33708 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36633 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18209 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37795 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38447 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33708 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36633 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07517 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1672 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.11783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16636 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17242 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12469 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15225 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31012 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33499 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32056 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43281 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25532 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32582 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38364 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37325 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38922 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33871 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40524 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25153 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48784 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54902 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47119 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42687 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50968 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38146 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66817 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73233 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.64541 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61452 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6553 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69304 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66718 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70321 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22321 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40539 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30852 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43351 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16509 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30814 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22208 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25823 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29682 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13504 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25279 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24851 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.17186 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.22108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21479 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23913 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0935 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17677 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16632 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.1111 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14165 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16186 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02866 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05152 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.07951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04416 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03079 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04003 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04408 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02767 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02124 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02336 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00164 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00234 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22376 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40539 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30852 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43351 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27466 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4841 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55647 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4917 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37676 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42249 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5166 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28355 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49795 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51051 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38802 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44034 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53083 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2898 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50695 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52262 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39614 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44892 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54131 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29522 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51287 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52853 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40256 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45526 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54542 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29564 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5133 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52885 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40308 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58585 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45581 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54581 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29564 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5133 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52885 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40308 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58585 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45581 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54581 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51051 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61291 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4748 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41765 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47021 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54205 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48853 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57709 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58378 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54357 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47852 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52348 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63869 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62079 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63787 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62971 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60423 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55958 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65151 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61551 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57072 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65151 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61551 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57072 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17498 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1525 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17088 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28058 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19634 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32762 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39366 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39862 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35435 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40552 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4582 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39569 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45268 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47596 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50556 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49259 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44044 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41977 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46703 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4745 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51153 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46601 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41274 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47503 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50103 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5132 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46791 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47603 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50103 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5132 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46791 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47603 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17498 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1525 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17088 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28058 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20377 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19634 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46727 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39056 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5502 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44095 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55003 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4897 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48657 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61224 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65863 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6305 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54693 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70281 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.83285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.82276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.87636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.78848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.84764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80488 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81946 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.90982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.84468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.8818 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.75333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.86345 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51051 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.38498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37523 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1834 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27849 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.29508 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15074 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.11888 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25694 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.19196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17527 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.14874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07028 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01727 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00932 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00093 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51051 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59309 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64546 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60018 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48926 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44244 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61517 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65645 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6133 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45268 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6673 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46703 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47503 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67184 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60836 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49593 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47603 - } - ] - }, - { - "config": { - "retrieval_model": "bge-small-en-v1.5", - "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67184 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60836 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49593 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47603 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/NoReranker/results.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/NoReranker/results.json deleted file mode 100644 index e9327fa8f032675172148e4ba636408c0dd11254..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/NoReranker/results.json +++ /dev/null @@ -1,4832 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4423 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52988 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58987 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4444 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40911 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53252 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59469 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41673 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55973 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61666 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45963 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44407 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60276 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65236 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50271 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61315 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66114 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53918 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51768 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67717 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56501 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54211 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32908 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38974 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20417 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22353 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42136 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49708 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29777 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29982 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44642 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52164 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32992 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54066 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36265 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35845 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48563 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55483 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39009 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38161 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48727 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55628 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39299 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38417 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48863 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5573 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39485 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38581 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32908 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38974 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20417 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22353 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4647 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53876 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33542 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34733 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52194 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59091 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39733 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41455 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59559 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65024 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49125 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50021 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72615 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76153 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.672 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67118 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.89006 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.89366 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.87492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.86994 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4423 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33433 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35263 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33452 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27163 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23681 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.24412 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21406 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1433 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.14256 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.17207 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.14417 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03803 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03592 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0509 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04294 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00246 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0022 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00333 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00286 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4423 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68989 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71724 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51631 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70068 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72485 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59113 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53054 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70634 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72893 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59903 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53967 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70887 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7317 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60371 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54571 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70918 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73196 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60408 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54616 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70936 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73214 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60433 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54644 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52113 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52127 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51906 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49643 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57445 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5273 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52215 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53319 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50988 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55547 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58576 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65253 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6326 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6362 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62376 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64449 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62047 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62771 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69199 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66665 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63166 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31826 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.38705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41942 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36777 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51299 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48141 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52573 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.501 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4887 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47537 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53424 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49882 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50505 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49215 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53445 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.27989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31826 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39548 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4229 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61446 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49371 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45444 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5141 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68273 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62534 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58558 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64496 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.80373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.71746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.77003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7751 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.86806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.88824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82096 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.99389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.98896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.99593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99911 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44576 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3643 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.20482 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.39705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.24731 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.20429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13655 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.18839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.17395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19071 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07751 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05426 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01896 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40964 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62887 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50818 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66316 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67227 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64199 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51299 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68017 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52573 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68493 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65923 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68691 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68512 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65938 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53424 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6902 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68707 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78331 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6853 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65949 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53445 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/bce-reranker-base_v1/results.json deleted file mode 100644 index 49ce6601747f9d1bc9d34b5c5a035ce9627cf620..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,4832 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39133 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63004 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60322 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46538 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38276 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63714 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61677 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47051 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39817 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66621 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64454 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51076 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43263 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68855 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67233 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56411 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49639 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67414 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50445 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67414 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50445 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36974 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19753 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19175 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50355 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50365 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30921 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27098 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54346 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53828 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35332 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30432 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57431 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56429 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40312 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33659 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5862 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57733 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43123 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36326 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58637 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57761 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36483 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58637 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57761 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36483 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37877 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36974 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19753 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19175 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54939 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56351 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36361 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33034 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63367 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45262 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41321 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70419 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7066 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57817 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51614 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76605 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7919 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71972 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39133 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41076 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37695 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36403 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26421 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3003 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27192 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29424 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21582 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18064 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1623 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20671 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1495 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04094 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03787 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05503 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04521 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39192 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7844 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70768 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58665 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48213 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71683 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50258 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79474 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72146 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51344 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79556 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61396 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51904 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79559 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72317 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61403 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51927 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79559 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72317 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61403 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51927 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55143 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45467 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51999 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56055 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49305 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59926 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52235 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65796 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67693 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66074 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60259 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5334 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56766 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57429 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57429 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16972 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32251 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31176 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31591 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26916 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.42303 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3869 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48016 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44451 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45659 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51402 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45704 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44874 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46671 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45067 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46732 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16972 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35713 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49982 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37418 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54618 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57657 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47314 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55836 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67518 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62171 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72691 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8616 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.85314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.93539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90486 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.84289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86664 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37545 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35428 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18206 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36879 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12771 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19508 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07269 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04527 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05525 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3253 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49898 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.42303 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68714 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58201 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44451 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69808 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45704 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46672 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70979 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5994 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46735 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70979 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5994 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46735 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-large/results.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-large/results.json deleted file mode 100644 index 9be2d2e4758143d3dd1d1792cf42d0fa31f37cfd..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-large/results.json +++ /dev/null @@ -1,4832 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76891 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74928 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57586 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67661 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68676 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54413 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54251 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67915 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6932 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5404 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54453 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71398 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56851 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57095 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71718 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60839 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60623 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7312 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61145 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6092 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7312 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61145 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6092 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39869 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43678 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22391 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27768 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54355 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58487 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36516 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39468 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58717 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62254 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41749 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43928 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61545 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64616 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46593 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47868 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62456 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65433 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49737 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6246 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6545 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4979 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6246 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6545 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4979 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39869 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43678 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22391 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27768 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58717 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62375 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41443 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44865 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66289 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68728 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50582 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52956 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72829 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74643 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61545 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62333 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76931 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79493 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72105 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.71955 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76891 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74928 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57586 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44947 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43003 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43177 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38293 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32341 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30376 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34094 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29865 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1888 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17435 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22484 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19303 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04113 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03808 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05518 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04691 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76951 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74928 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57645 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82261 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79367 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66766 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65622 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82759 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79801 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6777 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66618 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82926 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.8009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68291 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67109 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80187 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68493 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67359 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80192 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.685 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67366 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80192 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.685 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67366 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56557 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61843 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64987 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62404 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52695 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52055 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57377 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60578 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64073 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59753 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63212 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61671 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59001 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64905 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68047 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66804 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61397 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66396 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64753 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72102 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71348 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65144 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72102 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71348 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65144 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20458 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32023 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34346 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24569 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50382 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53481 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49838 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43734 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54364 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54186 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48497 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57825 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55386 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59489 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59789 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49552 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56135 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51988 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56169 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51988 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56169 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20458 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32023 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34346 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24569 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55664 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55932 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43955 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68675 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53309 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54069 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63005 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72691 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71328 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72513 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72945 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.81814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.76482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.75495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7992 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.93165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85553 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.89161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56557 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53854 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55523 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43548 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.22892 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44324 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46095 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.48098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.34821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31935 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31858 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14538 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3212 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21038 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07992 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0773 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05628 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.0365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01896 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68168 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56557 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75726 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74418 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6612 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53481 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75547 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67117 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59954 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54384 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7481 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75897 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68101 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56875 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55406 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77245 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68452 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56155 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56189 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-v2-m3/results.json deleted file mode 100644 index cec8aa2e73c7a5226f21843bac90490313bebd92..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,4622 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73943 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6075 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68624 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57192 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67627 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6935 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57284 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69668 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5955 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72987 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62667 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71472 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.731 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62894 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71472 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.731 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62894 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43164 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29279 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58542 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42041 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58638 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62291 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46723 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61275 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64778 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50471 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62192 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65516 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52291 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65534 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52332 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62199 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65534 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52332 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39944 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43164 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29279 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58431 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6268 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47268 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65754 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69098 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55572 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71897 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74976 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64211 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76843 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79485 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.72249 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73943 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6075 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44511 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43023 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40344 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.304 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31283 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1863 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17539 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19731 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04106 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04712 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77129 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73943 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6075 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82023 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78846 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68492 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82592 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7937 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69456 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82718 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69919 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82804 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79733 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.7007 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82805 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79738 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70078 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82805 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79738 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70078 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64895 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63291 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64782 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54938 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60609 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65771 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56652 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6225 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69513 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67452 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69722 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62059 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65328 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73103 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73075 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64552 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67558 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68948 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68093 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68948 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68093 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.38668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52906 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40752 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57095 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57329 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57999 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56224 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60612 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51725 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59245 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5977 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62318 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54756 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62318 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54756 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2487 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58748 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70683 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.67038 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.74699 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.82972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.80271 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.77596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.84337 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85806 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.89534 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.8806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44713 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42259 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23561 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33279 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1494 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.28844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.20224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08434 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04629 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.0365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.45382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78324 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77909 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57095 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77679 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69208 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57999 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79713 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69758 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59245 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78302 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59769 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59821 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index 25ddb433dbc1016e321d8e7424fc82cd4fa77a0e..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,4622 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.17451 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6132 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45284 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18112 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57358 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44305 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58876 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44527 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23354 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61631 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47544 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31788 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64761 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5333 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3545 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65312 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53994 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3545 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65312 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53994 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.09378 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3658 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22149 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.13531 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47959 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31747 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.15092 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51287 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34947 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16795 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53714 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38206 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19046 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55015 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40801 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.551 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40927 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.551 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40927 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.09378 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3658 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22149 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.17811 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38039 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23099 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60295 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4473 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31829 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67622 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54003 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60298 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77341 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.70472 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.17451 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6132 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45284 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1211 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35321 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3099 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.09887 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.25594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23866 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.07266 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15327 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16128 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03139 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03702 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04579 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.1751 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61378 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45284 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23764 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68211 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54677 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2553 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69204 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55933 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.27103 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56859 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.28587 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69928 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57315 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.28745 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69945 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57333 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.28745 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69945 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57333 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52151 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.26506 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49647 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.39486 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36654 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37777 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51065 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44549 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53265 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45881 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46781 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52271 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62178 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52935 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62178 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52935 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.12765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.12773 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.15636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28683 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1754 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.14864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.26506 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22308 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20787 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42023 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27752 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36212 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28801 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43533 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38983 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.303 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46274 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35394 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.39917 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42573 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47194 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39386 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41083 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49096 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39659 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37199 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41145 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49096 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39659 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37199 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41145 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.12765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.12773 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.15636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28683 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1754 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.14864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.26506 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27799 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3326 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46224 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.36918 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48996 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53425 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41593 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61446 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50643 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68273 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.82024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8164 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.87238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.83723 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85141 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.80817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52151 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.26506 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36095 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.39061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.36134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32616 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.16332 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.25491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28589 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30769 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.23978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.24432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.17975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12289 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20631 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.18601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.18704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.17171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.1543 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16831 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.13585 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.06827 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04484 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52151 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.26506 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60977 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51184 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62065 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52851 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38936 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53835 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63143 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3987 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57504 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62143 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54894 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41036 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63816 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54939 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41098 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63816 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54939 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41098 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index e04038d9e80927162c750fdcdf480beb9c21d65e..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,4622 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45503 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66416 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40422 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42169 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60327 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40095 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43663 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61464 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41078 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47505 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64411 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44119 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52853 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67465 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50462 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54012 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.678 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51338 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54012 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.678 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51338 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2458 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32911 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50937 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2881 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3541 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54083 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32026 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37919 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56676 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3505 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39876 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58035 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37797 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40066 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5809 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37938 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40066 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5809 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37938 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2458 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20382 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39127 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5556 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34649 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45768 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61835 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41887 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55611 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69398 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51418 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72104 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78498 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69289 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45503 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66416 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40422 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2704 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36151 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27788 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20143 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.25895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22132 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.13061 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15622 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.14997 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03772 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03748 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04541 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45503 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66416 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40422 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54556 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72129 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49326 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56149 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72844 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50996 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5727 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73349 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52085 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57739 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73616 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52598 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57774 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73627 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52634 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57774 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73627 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52634 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44993 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4517 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50814 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57013 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38042 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51683 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45715 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55312 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51174 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65105 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45881 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58341 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58452 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67821 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55513 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64673 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6162 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59998 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68498 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62417 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59998 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68498 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57033 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62417 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.16666 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.18259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33334 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17542 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.27741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.30412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.33052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46793 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26711 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48862 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33557 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30275 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50642 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31127 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5087 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39478 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36842 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53413 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35466 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52145 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43767 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47878 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5576 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40268 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52897 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55877 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39572 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52971 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55877 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39572 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52971 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.12803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.16666 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.18259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33334 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17542 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.29462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34082 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59839 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42063 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68675 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59478 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53708 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55363 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.68867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.77912 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.85414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.83079 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.88994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.84272 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.9184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92369 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43195 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28962 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19946 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36331 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.34985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.28964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27849 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24044 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.20184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13735 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.25858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17124 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17322 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07791 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01847 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62634 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58092 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69668 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49772 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44016 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48862 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59697 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59124 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64023 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71147 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51808 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5087 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60288 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6639 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52997 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47916 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52145 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6124 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51698 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52895 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60909 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82916 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53945 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52969 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60909 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66791 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82916 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71585 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53945 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52969 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/e5-mistral-7b-instruct/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/e5-mistral-7b-instruct/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index 44186b597eb8b72050995ef90508bfdd5a7d7621..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/e5-mistral-7b-instruct/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,4622 +0,0 @@ -[ - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34306 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3619 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32396 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32239 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34944 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31295 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3403 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36967 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32223 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38155 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40337 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35671 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44847 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47129 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43408 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46419 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48637 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44768 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46419 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48637 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44768 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.15941 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.19127 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.13906 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23668 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27243 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20804 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.26319 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3001 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23685 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29056 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.32221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26596 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31259 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34415 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29441 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34638 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29689 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34638 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29689 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.15941 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.19127 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.13906 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29099 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3265 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25759 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36312 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40109 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32903 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46993 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48848 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43084 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6937 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72672 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67285 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7699 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.73259 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34306 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3619 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32396 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.22831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.23162 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23316 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18046 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.178 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1891 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.12269 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1154 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.13409 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03759 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03486 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04384 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02059 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01917 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02388 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00239 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34306 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36248 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32455 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42257 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43804 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41066 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44363 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45512 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42759 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4556 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46516 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44025 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46439 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47424 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44909 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46509 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47488 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44953 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46509 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47488 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44953 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.16867 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36877 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32643 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33486 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.36723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.27577 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37409 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41309 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35272 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.3302 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37197 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46159 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40404 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36796 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53305 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49099 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.42928 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55365 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44456 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55365 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44456 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10481 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.13804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.15713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.20417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.17746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21324 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1307 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.12848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.16867 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18629 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31331 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22643 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.24007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.249 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.29877 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.39922 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.27912 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31316 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.37857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37401 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30608 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.29476 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39656 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.38704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33858 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.3057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.30797 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3281 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39016 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40192 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.30941 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3281 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39016 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.41155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.40192 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.30941 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.10481 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.13804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.15713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.20417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.17746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21324 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1307 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.12848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.16867 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22002 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27317 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.37455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.39145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.36814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32097 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.30887 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39483 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48594 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55922 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49528 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60241 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.88233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.85621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77815 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.76877 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.86371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.83141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.87463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.7604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.87952 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.97468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.88582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.95276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.93127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87289 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.9257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.97354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.91496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.97189 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.16867 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.30258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26958 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1544 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.14738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1178 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.24505 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.34293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21075 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22186 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.1973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.09719 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.18584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.1628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.1631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.1507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.14005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15683 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.13108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.09601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.07834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.11429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.06024 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.06661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.06846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04823 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04167 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.04951 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01759 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00972 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00383 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0029 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00097 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.16867 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42743 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49507 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28783 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.24967 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45145 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56129 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.27979 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50926 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57221 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52721 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.29543 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.535 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33852 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.30864 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5356 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48564 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.31008 - } - ] - }, - { - "config": { - "retrieval_model": "e5-mistral-7b-instruct", - "retrieval_model_link": "https://huggingface.co/intfloat/e5-mistral-7b-instruct", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5356 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48564 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.31008 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/jina-embeddings-v2-base-en/NoReranker/results.json b/AIR-Bench_24.04/jina-embeddings-v2-base-en/NoReranker/results.json deleted file mode 100644 index 36907e2981176fcca55c26b7cc88106b2a3eb9aa..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/jina-embeddings-v2-base-en/NoReranker/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13048 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29678 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36404 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12188 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29315 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4337 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37397 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33664 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32765 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12906 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30928 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39053 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51074 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34001 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3313 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14799 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33739 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47326 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41421 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36872 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35438 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19251 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39868 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52851 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4547 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42794 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40864 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2064 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41359 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54153 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4652 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44426 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42322 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24263 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44423 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56579 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48791 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47607 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45158 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04499 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.12939 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23135 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.159 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15599 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19684 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3225 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31491 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23046 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22526 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08993 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22901 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35711 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33843 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.4355 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24966 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10692 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25932 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38262 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.35722 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27911 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27238 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12293 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28521 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40343 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37198 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30028 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29226 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12501 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28773 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40561 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37348 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30281 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29465 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12689 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2897 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40716 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37456 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30491 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29646 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04499 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.12939 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23135 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.33436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.159 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15599 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09438 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23921 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36171 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27764 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27644 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12835 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31421 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4434 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42154 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33542 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18352 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40221 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48913 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42245 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41502 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31775 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57609 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70104 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62463 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69348 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60569 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57466 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.59566 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.80989 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.92879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.90194 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83437 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.83965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.86143 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.79482 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13048 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29678 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36404 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0992 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21747 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31713 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.22082 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24687 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2316 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08673 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18736 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2403 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.16568 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.21031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18925 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18219 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.13569 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.26398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15056 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.10461 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.12536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12571 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.12209 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02408 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04323 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.07863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0418 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.02882 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03821 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03766 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00208 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00302 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0027 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00188 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00266 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13048 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29678 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48389 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36341 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16297 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36886 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55741 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41767 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45715 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41418 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17346 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39051 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56963 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4317 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47061 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42961 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18122 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40086 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57834 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43902 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48049 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44056 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18771 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40722 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58374 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44387 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48674 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44719 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18842 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40779 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5842 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4444 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48724 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44771 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40821 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58447 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44487 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48759 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4481 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48111 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45657 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51673 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49075 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45812 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54525 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5052 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57515 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6264 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59549 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61019 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61159 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56191 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61814 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65007 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65818 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63505 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62534 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62371 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19579 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.17105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.23998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.32509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.38037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38163 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33399 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4913 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36174 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37056 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50736 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43551 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39983 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38282 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5197 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48325 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45952 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.527 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4522 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.42904 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43991 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52774 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45399 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46424 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44116 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52801 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19579 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.17105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.23998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36409 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32431 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37832 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42887 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49841 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44759 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65863 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68916 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58824 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56836 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.71761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.83876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.80039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.87872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.85634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.86713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79981 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.93383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.84284 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.80127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91165 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.98687 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.98456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.9966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.97857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.9965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.33929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33242 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.21662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19679 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.38967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.22688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13173 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.24084 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25811 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2644 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.16696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.17099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.14301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04188 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01823 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65365 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62838 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59882 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4913 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65197 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63522 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61453 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50736 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.673 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64445 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5197 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66433 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6493 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.527 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50987 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52774 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64984 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52801 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/jina-embeddings-v2-base-en/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/jina-embeddings-v2-base-en/bce-reranker-base_v1/results.json deleted file mode 100644 index bd8530c88ca9c5a7635cf23c3f4517d11492a8df..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/jina-embeddings-v2-base-en/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29983 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54647 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54716 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52871 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6271 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54071 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27039 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5181 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5065 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53284 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46688 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50809 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27362 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5169 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5228 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54271 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60203 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47787 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51155 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28739 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53626 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55376 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56186 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50811 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52941 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30409 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55607 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59053 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57491 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53909 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55083 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30664 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55771 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59466 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57593 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54172 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55226 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30664 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55771 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59466 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57593 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54172 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55226 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22602 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2297 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32263 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20851 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25364 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17413 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35285 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36645 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44987 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32551 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36054 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2058 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40388 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42039 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48372 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37244 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40659 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23378 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45345 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45565 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5092 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40934 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44244 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24201 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47072 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51478 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42292 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45317 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24239 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46616 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47144 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51491 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42333 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45342 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24239 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46616 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47144 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51491 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42333 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45342 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22602 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.16869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2297 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32263 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20851 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25364 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19597 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39709 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42561 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49684 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40838 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25359 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48121 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52474 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56048 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47458 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49177 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31243 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57503 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61687 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62319 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56685 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56968 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62921 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73877 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67022 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66334 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6293 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29983 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54647 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54716 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52871 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6271 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54071 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22062 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39901 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53922 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38918 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33123 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36087 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36673 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18112 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3197 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24202 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28573 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29244 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1206 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21208 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18752 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14473 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18001 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18301 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04778 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04442 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03115 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03399 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04238 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.0418 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00241 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00227 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00211 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29983 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54647 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54716 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52871 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54071 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33852 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61741 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63923 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58034 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59417 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61746 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34779 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62763 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72965 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64901 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58769 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60771 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62979 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35133 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63163 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65442 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59067 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61234 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63356 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35314 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63244 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6575 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61476 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63513 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35326 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6325 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65759 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59232 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61486 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63519 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35326 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6325 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65759 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59232 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61486 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63519 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.628 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56648 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54059 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64259 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66164 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64014 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60079 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56392 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68578 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5871 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72778 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71834 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70044 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71918 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62761 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62958 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83621 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62807 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62958 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39022 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42157 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34427 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50669 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48881 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52827 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55318 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49381 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39357 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51975 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58626 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69922 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5292 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57867 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53818 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6095 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46553 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53836 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6095 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46553 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53836 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.22208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26243 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55193 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62838 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59744 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69478 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.75123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75203 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.75976 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.83192 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.76221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.76484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76707 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.87389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85302 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.87232 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89765 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.84798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52697 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56957 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57002 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44627 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21285 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.38036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31935 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13896 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33639 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.34049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19758 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07671 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0758 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.05014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05596 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01896 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40161 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75358 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70674 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50669 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76232 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72382 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51975 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7657 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72887 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69296 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5292 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76741 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73078 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53818 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77257 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76755 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73099 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53837 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77257 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76755 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73099 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53837 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/jina-embeddings-v2-base-en/bge-reranker-large/results.json b/AIR-Bench_24.04/jina-embeddings-v2-base-en/bge-reranker-large/results.json deleted file mode 100644 index cced84cdfbfceddc1a07427d8026051d041a5c99..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/jina-embeddings-v2-base-en/bge-reranker-large/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28651 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49504 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50439 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27211 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48778 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43152 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42907 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44485 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4954 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27218 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49028 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45122 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44651 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4588 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50256 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28237 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50808 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48936 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47269 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49055 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52081 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30152 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53455 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.538 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5015 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52363 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54164 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30422 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53709 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54361 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5058 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52651 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54317 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30422 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53709 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54361 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5058 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52651 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54317 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10391 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20997 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18719 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25809 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18991 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23507 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17664 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33048 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3112 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.35957 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30528 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34963 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20629 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38388 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36059 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39258 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35618 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39799 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23224 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43098 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39802 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41842 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39477 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43379 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24105 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44561 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41586 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42906 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40869 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44446 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24141 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44605 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41672 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42961 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44474 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24141 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44605 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41672 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42961 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44474 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10391 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20997 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18719 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25809 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18991 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23507 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20447 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37213 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36864 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36525 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40277 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25273 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45787 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46568 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4748 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45971 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49233 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30337 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55224 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57368 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55339 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55691 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57076 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36355 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62513 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73192 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65342 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72021 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66153 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6288 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28651 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49504 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50439 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37836 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33568 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26477 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38217 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34893 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36653 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18068 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30991 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26995 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20278 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29443 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11805 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20471 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17282 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12732 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18065 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18494 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02781 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0476 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04412 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03051 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04243 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04179 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00241 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00227 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00211 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28706 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49442 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44405 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40883 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50381 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33352 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56495 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53046 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46551 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55989 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59051 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3391 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5758 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54461 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47381 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57205 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60431 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34213 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58226 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55387 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48149 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57871 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60924 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34421 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58479 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80186 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55954 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5822 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61076 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34438 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58494 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5598 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48598 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58236 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61081 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34438 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58494 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5598 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48598 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58236 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61081 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59924 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55023 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56545 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55699 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5478 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57693 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58343 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56596 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60064 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42018 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50274 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60728 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63941 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67148 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51715 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63402 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63838 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67538 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53595 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64117 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63838 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67538 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53595 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64117 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16585 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.18106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36406 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.39371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25179 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52075 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39403 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.28626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53541 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53728 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32943 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.42135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4281 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54553 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49731 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57689 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55423 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36392 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52853 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55173 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49854 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36723 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55235 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49854 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.54567 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36723 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55235 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16585 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.18106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.22525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.28197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16518 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.43961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51396 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.29974 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.39666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66265 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37244 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72691 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66092 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72294 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71318 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.78277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7992 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.86807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.85691 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82068 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.89523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89509 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91566 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5286 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26594 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.22088 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41742 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.22486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16617 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.26891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14538 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2979 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18548 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.15601 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.14973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07992 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04538 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01831 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61127 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44353 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52075 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45801 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53461 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69211 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47069 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60248 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5454 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64125 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69446 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69499 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48091 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60657 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5517 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64143 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69504 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55232 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64143 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69461 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69504 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55232 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/jina-embeddings-v2-base-en/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/jina-embeddings-v2-base-en/bge-reranker-v2-m3/results.json deleted file mode 100644 index 560f825e49f7b0ddf242b64b638fd5188697507d..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/jina-embeddings-v2-base-en/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30094 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58736 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62332 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52871 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54131 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6116 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27362 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57136 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53986 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49074 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55507 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2754 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53838 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57821 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5493 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66313 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4949 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54715 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28656 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54852 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61098 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56456 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5262 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56054 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30802 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57279 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63879 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57986 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55628 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5802 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31014 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57395 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58094 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55764 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58114 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31014 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57395 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64017 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58094 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55764 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58114 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11346 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25114 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27356 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3296 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22673 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28571 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18194 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38157 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43289 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.459 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34673 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40227 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21111 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43181 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4808 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4918 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39181 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44516 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23565 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47302 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5171 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51327 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42818 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4779 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24669 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48825 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53122 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52107 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44264 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48939 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.247 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4885 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53147 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52117 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44285 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48956 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.247 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4885 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53147 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52117 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44285 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48956 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11346 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25114 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27356 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3296 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22673 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28571 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20386 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41509 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4858 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51012 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39979 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44152 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25487 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49047 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57067 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48343 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51188 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30532 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67039 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62093 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58209 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58076 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36601 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63158 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75159 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66929 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72422 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66964 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63126 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30094 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58736 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62332 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52871 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54131 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6116 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2171 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41326 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42804 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33186 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37223 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39445 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17501 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32429 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32138 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24063 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.28767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28816 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30135 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11438 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20669 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19684 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14132 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18174 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18547 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02796 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04788 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04511 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03119 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03424 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04268 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04197 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00241 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00227 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00211 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30094 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58736 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62332 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52871 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54131 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6116 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34249 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64137 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.8015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69459 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58475 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77688 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62026 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67116 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35027 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64893 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70461 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59113 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62996 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67904 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35325 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65332 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59394 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63573 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68236 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35531 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65466 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71226 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63792 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68346 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35541 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65468 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59553 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63799 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68348 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35541 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65468 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71231 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59553 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63799 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68348 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68486 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64362 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65975 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60513 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6654 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74445 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71878 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64624 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67981 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7492 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74501 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70529 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65194 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70657 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7626 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77924 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74654 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70925 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7626 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77924 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74654 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70925 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26263 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46174 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44381 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61178 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51169 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5587 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5442 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58876 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62403 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61631 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60373 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62783 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54752 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53296 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63005 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64429 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67062 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64184 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57644 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6367 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6709 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71285 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64208 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5769 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63696 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6709 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71285 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64208 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5769 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54861 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63696 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.28593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.31046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.33844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26263 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.27322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45518 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58735 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5046 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73494 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58857 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68231 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60735 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.78715 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71296 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.84774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.80335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.78017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.71466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.83133 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9151 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86156 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.89283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90685 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92458 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94378 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58092 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44624 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45993 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25915 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.24498 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35683 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15743 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33303 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18711 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08313 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06902 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07682 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07639 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.05036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04613 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05667 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01888 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71505 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82446 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71721 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61178 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83304 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.80593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72486 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68137 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62403 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78922 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.8354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79308 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.80895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79885 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72748 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68539 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63005 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79962 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73078 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6367 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63696 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79065 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73083 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63696 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/jina-embeddings-v2-base-en/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/jina-embeddings-v2-base-en/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index d86276a872d10384835c5a5163a26372dbcfc353..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/jina-embeddings-v2-base-en/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47708 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52607 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43849 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4818 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49326 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21038 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45946 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48009 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46324 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59366 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43556 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46424 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21446 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46255 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49324 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48093 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43727 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46496 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23121 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48328 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53143 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50328 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47261 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4876 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2639 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51992 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57457 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52754 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51535 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5216 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26824 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52227 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57964 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53028 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51915 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52401 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26824 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52227 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57964 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53028 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51915 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52401 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08239 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20229 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27081 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23514 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13479 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31317 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35679 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38909 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30461 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32993 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15778 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3586 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42206 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33981 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36583 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17913 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40154 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4356 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44527 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37465 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3991 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19396 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42146 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45382 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45596 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39346 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4154 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19463 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4219 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45464 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45625 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39401 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41589 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19463 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4219 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45464 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45625 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39401 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41589 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08239 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20229 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27081 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23514 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16132 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35867 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40788 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44604 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35716 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38015 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20493 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43673 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49639 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51557 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42956 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45024 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26339 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52824 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60124 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58211 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53082 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53164 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35659 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6263 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73467 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66013 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65819 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62556 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47708 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52607 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43849 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4818 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49326 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17046 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34696 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35774 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28686 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32736 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32845 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1407 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28203 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27534 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21577 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.25953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24957 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25659 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09684 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19033 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17598 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13148 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16493 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16684 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02731 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04756 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04415 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0309 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04213 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04149 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00241 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00227 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00211 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47646 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52724 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43849 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4818 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49268 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27041 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55194 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6035 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50536 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56162 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57459 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27879 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56446 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61586 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51596 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57349 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58716 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28515 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56983 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62451 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52145 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58065 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59253 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28859 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57299 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62808 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52412 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72572 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58432 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59525 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2888 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57307 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62826 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58452 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5953 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2888 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57307 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62826 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58452 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5953 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54504 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69171 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59831 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50392 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60716 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4619 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4994 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53191 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53842 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64474 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51845 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55377 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55783 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65545 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69344 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60087 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59791 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61146 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60593 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61146 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59548 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60593 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15771 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20746 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30775 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32596 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49058 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32711 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32985 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4739 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39985 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52698 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49609 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43677 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48936 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42675 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5568 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41503 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53697 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50002 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51031 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66053 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57885 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45073 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50948 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4693 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57983 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51025 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4693 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57983 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56071 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51025 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.15771 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17829 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.29962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34964 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20746 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32876 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54171 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37909 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59036 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45317 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61322 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46303 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65863 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63813 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69844 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60254 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76154 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.72195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73896 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.84977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.83855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.84187 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.78886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91165 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40944 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39427 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19679 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13173 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27633 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17608 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0739 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04511 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01823 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.37751 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61416 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72446 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48516 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4739 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62905 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68309 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73414 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58852 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48936 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73878 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59698 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50002 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65279 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69567 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69922 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60419 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5095 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60471 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51027 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60471 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51027 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/jina-embeddings-v2-base-en/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/jina-embeddings-v2-base-en/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index 02fdc8bef7d198b1e9df8d1a0da84d29ccddc5ca..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/jina-embeddings-v2-base-en/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50615 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44101 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47834 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47686 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21086 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43572 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47178 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45055 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42668 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45247 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21619 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43989 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48523 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47064 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4335 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45591 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23238 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46216 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52343 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4933 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46939 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47953 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26451 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50343 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51937 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51306 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51423 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26823 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50641 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5743 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52306 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51619 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51695 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26823 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50641 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5743 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52306 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51619 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51695 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08005 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18941 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22261 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27033 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19626 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2259 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29448 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35061 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37706 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50164 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29544 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3199 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15728 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33655 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39296 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41103 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33383 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35641 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17978 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3782 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42809 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43462 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36929 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38881 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19413 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40039 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44794 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44585 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38945 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40578 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19462 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40098 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44873 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44624 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3899 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40628 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19462 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40098 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44873 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44624 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3899 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40628 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08005 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18941 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22261 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27033 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19626 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2259 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15706 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34099 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40322 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42857 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37398 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20655 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41838 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49052 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50292 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.427 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44741 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26583 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51327 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59564 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56943 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53238 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.531 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35853 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62408 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73474 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65502 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72117 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62379 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50615 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44101 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47834 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47686 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17176 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33147 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35325 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27655 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32024 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32045 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14325 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26939 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27229 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21047 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.25918 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25211 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25214 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09872 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18327 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17399 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12902 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16603 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16438 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04731 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04422 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03071 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04228 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04144 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00241 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00227 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00211 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2271 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44796 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50615 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43975 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47834 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47686 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27041 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52623 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58699 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49989 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55633 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56132 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28082 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53893 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60132 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51135 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72959 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56993 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57491 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28679 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54558 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60976 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51666 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5781 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5813 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29012 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54916 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61381 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51945 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73476 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5814 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58391 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29033 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54922 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51974 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58155 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58401 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29033 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54922 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51974 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58155 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58401 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49531 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58726 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43921 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55297 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49583 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57944 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61052 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45864 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57959 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55097 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53552 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64892 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51936 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63593 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60843 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69808 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59705 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68596 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64189 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70156 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59833 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64653 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70156 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59833 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64653 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.2827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49001 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31492 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40645 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52477 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35078 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43677 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53193 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49013 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53963 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56226 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41182 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55168 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58548 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44609 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55961 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44805 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56005 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44805 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56005 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36203 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5356 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35903 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63454 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62167 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46165 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6988 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65534 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70875 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61305 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72873 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.78715 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.85647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.85071 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.9036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.9478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90331 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85168 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.88538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90282 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41715 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43343 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33607 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21151 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.2773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13976 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.26426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.28077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17984 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07871 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07503 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.0354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02671 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76087 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63113 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71057 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56396 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52477 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72482 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58007 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53963 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65938 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65677 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75035 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72857 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59919 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66262 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5158 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55168 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66128 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73201 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60451 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55961 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56005 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60485 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56005 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/jina-embeddings-v2-base-en/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/jina-embeddings-v2-base-en/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index ec1dc53d60c5f57c3e1b81745dde4497c33347f0..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/jina-embeddings-v2-base-en/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,5672 +0,0 @@ -[ - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24486 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51611 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70343 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48076 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52021 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23534 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50213 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53876 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49489 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46012 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49949 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24023 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5006 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56046 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50827 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47297 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49807 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2544 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51595 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59318 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52973 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50453 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51585 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27762 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54024 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61512 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5394 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28158 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54313 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54866 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5343 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54171 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28158 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54313 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54866 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5343 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54171 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08256 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20633 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23936 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28516 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18987 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23389 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14413 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33684 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39711 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31299 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34777 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1724 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38801 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45868 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44743 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36458 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39039 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19899 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43447 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49861 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4052 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42608 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20977 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44865 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50783 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48066 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41629 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43784 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21036 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44909 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48095 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41674 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43822 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21036 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44909 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50838 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48095 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41674 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43822 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08256 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20633 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.18557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23936 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28516 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18987 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23389 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17436 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38648 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45871 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46952 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37735 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40479 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22806 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46725 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56833 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53513 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47661 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48196 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28665 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5538 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66465 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60135 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66697 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57258 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55839 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3579 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62242 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73954 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65807 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71563 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62498 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37618 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63614 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75763 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67565 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.67634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6352 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24486 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51611 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70343 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48076 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52021 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1973 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39095 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41691 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31483 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36665 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36848 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16469 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31487 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33263 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2347 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27238 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29382 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28752 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11172 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20694 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20299 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14151 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18666 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18102 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04757 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04465 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03093 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04232 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04161 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02112 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00241 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00425 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00227 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00211 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24486 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51611 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57528 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48076 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5208 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29863 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59542 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66169 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54301 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58184 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61209 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30876 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60316 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67261 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54925 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59415 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62146 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31254 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60722 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67758 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55335 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71657 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59847 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62496 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31472 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60896 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67913 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55545 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60079 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62666 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31494 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60908 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67929 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55569 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60097 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62674 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31494 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60908 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67929 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55569 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60097 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62674 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63543 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66269 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57403 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58744 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67147 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60698 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60732 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.69903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67618 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67296 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63498 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72693 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74061 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70097 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66113 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7429 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74319 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70741 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74572 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66574 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7429 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74319 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70741 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74572 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66574 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36593 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25854 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30407 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25818 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37719 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41684 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43439 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55489 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58552 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49344 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56593 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59707 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63283 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56538 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57758 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60543 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63129 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6412 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52489 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58339 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64155 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57849 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58381 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64155 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57849 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58381 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36593 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25854 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30407 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25818 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41145 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55916 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57357 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57979 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68273 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67977 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68097 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62114 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73092 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7505 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.84412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79543 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.85774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.77967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.81526 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.86457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.8595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85504 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86925 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.9002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88072 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.92139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.92692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.90128 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44713 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.449 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.30573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.25223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.22758 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46416 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.18398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14618 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.34891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25191 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.20811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08153 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06827 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00287 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56022 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57055 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55556 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77437 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7291 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59509 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65205 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5666 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77563 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78975 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73233 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57865 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74705 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79071 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73415 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60729 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5841 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78157 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79081 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73444 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58452 - } - ] - }, - { - "config": { - "retrieval_model": "jina-embeddings-v2-base-en", - "retrieval_model_link": "https://huggingface.co/jinaai/jina-embeddings-v2-base-en", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78157 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79081 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73444 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58452 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-base/NoReranker/results.json b/AIR-Bench_24.04/multilingual-e5-base/NoReranker/results.json deleted file mode 100644 index 7c2bec64dcf7ddbfa58fcd0b065bbcda4349a60e..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-base/NoReranker/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1166 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39281 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47296 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36028 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12606 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34526 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39412 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51965 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44388 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2434 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44515 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30595 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42112 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35347 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13669 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34053 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40508 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50593 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45655 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23203 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46516 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5487 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31048 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41578 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36226 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15654 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36177 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43455 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52579 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49311 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24925 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48998 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33291 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44251 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38268 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20584 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44074 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49359 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61299 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54974 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31454 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52848 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62178 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38692 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50791 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43376 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22107 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46163 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50876 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62738 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56218 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33334 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.405 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52304 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44657 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2592 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49477 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53525 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64608 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58325 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37393 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55394 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65238 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43961 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54869 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47805 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04444 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17444 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15159 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22365 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0744 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2735 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32915 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14625 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1774 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42287 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07922 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19526 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27221 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28211 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33348 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12339 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37556 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43048 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20873 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27721 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25228 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09597 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23204 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31237 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34588 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37012 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1448 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4075 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45739 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23087 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30889 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27946 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.52355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11368 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26704 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35316 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41493 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40124 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16913 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43144 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48231 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24996 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30191 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13161 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30096 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38191 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46409 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21965 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42294 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19331 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44687 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50048 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26798 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37177 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32113 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1338 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30477 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38449 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4673 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42499 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19638 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44788 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27071 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37465 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32326 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56305 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13575 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30721 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3862 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46889 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42636 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19901 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44868 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5036 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.46245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27282 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37645 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32508 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04444 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.17444 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15159 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22365 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0744 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2735 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32915 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.31162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14625 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1867 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1774 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46593 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10087 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23011 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31882 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31852 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37794 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14754 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42841 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48219 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45525 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25156 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.32087 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30648 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14127 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29932 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39693 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4181 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45709 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19279 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50009 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54075 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30681 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38733 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37211 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19967 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3922 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49974 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5564 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55682 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26466 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5687 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61831 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37494 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48602 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44245 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.89342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34608 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60638 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66003 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77613 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73133 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44376 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69608 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75102 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54248 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6671 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5944 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.98974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.64627 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.85888 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.8741 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.9267 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.9101 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.72714 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.86576 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.91083 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.86578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.82447 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.8653 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.82332 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1166 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39281 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47296 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36028 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43961 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10587 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29444 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29409 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45645 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32181 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21219 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26751 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.35438 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22396 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24292 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09395 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24449 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38728 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24593 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17496 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.20189 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.25051 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17343 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24789 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.19192 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.22258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.07174 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17183 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1723 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27759 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15764 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12537 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12637 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.15277 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.12675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.11213 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16881 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.12531 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02663 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05556 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05041 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08115 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06231 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04371 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04032 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03466 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05053 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.0374 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02496 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00333 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00386 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00327 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00474 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00338 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00195 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00254 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00262 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00271 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1166 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38598 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39281 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50264 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35009 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3597 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74073 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15806 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46111 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47119 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63958 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56922 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35014 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49495 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70538 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59786 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42249 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54971 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44288 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1698 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47699 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48783 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65284 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58416 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36584 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50637 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71437 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43714 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56371 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45817 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17907 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48725 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66055 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59315 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37659 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51157 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71917 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44643 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57387 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46654 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75985 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18618 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49466 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50246 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66441 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59806 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38432 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51519 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72205 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45243 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57892 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18698 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49524 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50305 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66463 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59844 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38515 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51566 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72224 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62107 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45314 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4726 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18772 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49556 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66476 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59865 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38565 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51605 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72242 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45358 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57951 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47308 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48087 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52678 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44558 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39786 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5128 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61822 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44678 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56195 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55292 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53207 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57663 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49048 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5835 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62698 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63632 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62199 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58464 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62782 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65773 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72053 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67211 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60684 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63389 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28317 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31966 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38161 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.41342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.38865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.42296 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51138 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.4834 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.40439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4247 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45093 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42047 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52122 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47932 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39101 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53055 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50258 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4229 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5389 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48015 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50621 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53941 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50755 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42786 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40848 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5397 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.19931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.16233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.21582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.26142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.31293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.38151 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36182 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47962 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63855 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43216 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.50051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44888 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64028 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56002 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.70227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.74699 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.82753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.8136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.89906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.78148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.83758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.85346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.77914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91968 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.99188 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.9964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.98994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.98948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99465 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.99907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48087 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40944 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45464 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33242 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21285 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35799 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.26162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.24462 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.20307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21961 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13655 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24675 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.17619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15511 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.16749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10119 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0747 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04349 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.04973 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01839 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48087 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66667 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56102 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51138 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66171 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65836 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67796 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57564 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4979 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52122 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67085 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68746 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5875 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53055 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68239 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59359 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53316 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5389 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67261 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53941 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67502 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69148 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59438 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5397 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-base/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/multilingual-e5-base/bce-reranker-base_v1/results.json deleted file mode 100644 index cb2c17985637b5c6e5fd5aad3e83eb909a72f6c7..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-base/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30927 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57336 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54647 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64504 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42271 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52303 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74151 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65605 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5338 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59952 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55009 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2807 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51747 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53184 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6039 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52523 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37199 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53615 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6379 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46551 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53754 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51936 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.67736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28459 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51071 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53962 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59312 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54526 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35959 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55529 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64283 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47069 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51901 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72999 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30024 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53705 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56682 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61741 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58022 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3812 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58133 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67578 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.494 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57231 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53943 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32457 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58111 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60182 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68462 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61781 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4213 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60224 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70372 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52225 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6114 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56174 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32776 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58321 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60466 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6878 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62125 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42391 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60391 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7043 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52377 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61375 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56262 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32776 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58321 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60466 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6878 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62125 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42391 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60391 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7043 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52377 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61375 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56262 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11407 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17345 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23706 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17173 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23971 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10803 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32599 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38574 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37698 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2204 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.48667 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18172 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30558 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37049 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32917 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26499 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38441 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19238 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45348 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50902 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32798 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36434 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37573 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56173 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21344 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36936 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42581 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41298 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43971 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2341 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49332 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5499 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3697 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41859 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4172 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24045 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42823 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47909 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5022 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.477 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52322 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58342 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39964 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47069 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4515 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65629 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25327 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45532 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5019 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54822 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49519 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29731 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53366 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59822 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41313 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49364 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46442 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25375 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45574 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50246 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.549 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49578 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29778 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53385 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59833 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57823 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41334 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49412 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4646 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25375 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45574 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50246 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.549 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49578 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29778 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53385 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59833 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57823 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41334 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49412 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4646 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11407 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17345 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23706 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17173 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23971 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10803 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32599 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38574 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37698 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2204 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.53155 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20889 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34458 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42134 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36971 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44728 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22983 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50809 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55103 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37436 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40625 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42872 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26631 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44793 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51563 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49373 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55581 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30493 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62488 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45538 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50351 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50372 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32971 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56855 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62325 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65415 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65659 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40107 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66021 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71338 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5325 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61563 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58514 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.92873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39678 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67772 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81701 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76964 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50525 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72702 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79146 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61435 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71631 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64233 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82931 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82931 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30927 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57336 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54647 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64504 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42271 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52303 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74151 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65605 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5338 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59952 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55009 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51762 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22413 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44628 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40231 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53595 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39992 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33426 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3306 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4187 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34989 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41513 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36614 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.41035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18401 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37325 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32788 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46197 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27889 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24871 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.30613 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27198 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33821 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28272 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12199 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25286 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22311 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33069 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19438 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19319 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15281 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18666 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16811 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2262 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17868 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03044 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06231 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05447 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08546 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0464 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04912 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0345 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04314 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03951 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05502 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04138 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02497 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00156 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00236 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30983 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57336 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54771 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6452 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63234 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57293 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42493 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5224 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74092 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5338 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60012 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55009 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80149 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35943 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65243 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62856 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72509 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.70936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65905 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.5121 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58528 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79551 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60562 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67221 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62888 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80845 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36848 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66577 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64068 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73628 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6715 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52705 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59332 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80117 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61634 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68591 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63878 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37272 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67152 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64568 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74094 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6767 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53414 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5973 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80434 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73557 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62099 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69081 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64323 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81475 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37476 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67338 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64703 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74263 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67887 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53691 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59926 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80566 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62312 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69286 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64421 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37495 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67343 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64712 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74268 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67896 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53702 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80568 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6232 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69291 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64425 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37495 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67343 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64712 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74268 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67896 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53702 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80568 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6232 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69291 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64425 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66935 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63725 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57642 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47571 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60443 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64051 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65046 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58614 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52083 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67174 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65418 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71343 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69791 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55516 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7182 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73878 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67984 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59015 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74248 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68452 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59619 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69961 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74248 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68452 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72214 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59619 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39111 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35864 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49682 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42367 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32935 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44846 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4725 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.448 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48758 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56419 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48315 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47376 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5836 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53327 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46366 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41818 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48825 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57992 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57767 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58682 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62292 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49962 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49635 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.616 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55644 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49693 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.616 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62352 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55644 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44649 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49693 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26027 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57613 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46803 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49055 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55422 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55075 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59693 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6647 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57697 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66265 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76316 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81157 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77476 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69421 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.81938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.76599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88816 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95918 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8982 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84655 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93661 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92557 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.84813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.91968 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66935 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51638 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55556 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.449 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18474 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13253 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22768 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.2112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22514 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17339 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07671 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04823 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0541 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02742 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04599 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01839 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66935 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70719 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53988 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44846 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76662 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72004 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51266 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47376 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76031 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7794 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72292 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48825 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77413 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72809 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53388 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49638 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74941 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78154 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79053 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77425 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72831 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49696 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74941 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78154 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79053 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77425 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72831 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49696 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-base/bge-reranker-large/results.json b/AIR-Bench_24.04/multilingual-e5-base/bge-reranker-large/results.json deleted file mode 100644 index 28d80030edca984c77ccd13482589a5fae632199..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-base/bge-reranker-large/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32038 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59458 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60037 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72765 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57059 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49584 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51609 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76295 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52629 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5167 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74217 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28848 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55546 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57816 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68957 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53829 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4382 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53474 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67677 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47813 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58574 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50838 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29527 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55244 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5779 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67737 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53524 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55301 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4182 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55022 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68637 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48323 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58958 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51101 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31202 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57281 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59815 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69666 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59288 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43305 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57627 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71441 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61313 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53088 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33297 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60282 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62776 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73693 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62688 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4598 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5974 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72858 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52933 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63893 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55203 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33487 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60474 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6294 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73879 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62888 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46137 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59993 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72893 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53022 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64044 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55309 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33487 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60474 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6294 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73879 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62888 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.46137 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59993 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72893 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53022 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64044 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55309 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33935 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12044 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17866 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25794 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19704 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24702 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12791 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32021 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39254 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21597 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24741 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24874 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18815 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.32736 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40299 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38824 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39954 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23418 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45302 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54185 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54962 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33467 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39493 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3646 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22228 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40222 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46335 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49206 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45332 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28294 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49058 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58825 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38047 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4601 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25231 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46567 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51951 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59683 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49591 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32664 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52066 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62675 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41435 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51385 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44578 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7319 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26374 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48526 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53857 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6279 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51166 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34269 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53147 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63507 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42431 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45717 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.264 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48565 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53889 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62837 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51196 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34299 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53178 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63516 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42442 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53048 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45736 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.264 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48565 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53889 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62837 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51196 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34299 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53178 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63516 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42442 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53048 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45736 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33935 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12044 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17866 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25794 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19704 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24702 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12791 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32021 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39254 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21597 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24741 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24874 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21387 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3732 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4474 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42384 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45796 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2725 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50574 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59153 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38964 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44212 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41931 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27585 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48965 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53663 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56223 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5587 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3501 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57859 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67736 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47372 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54992 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50118 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34191 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60364 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63811 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72609 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67149 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4411 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65475 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75499 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55933 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65387 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58358 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.93645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4024 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67825 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71536 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82235 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77576 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50915 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72211 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79273 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61763 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72032 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6416 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32038 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59458 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60037 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72765 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57059 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49584 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51609 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76295 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52629 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5167 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.57379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22932 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48596 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4399 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61555 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41183 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39354 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33291 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45543 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36626 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46445 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36692 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19223 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41108 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35452 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53088 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31986 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32166 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3377 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28573 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37635 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28822 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12921 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27154 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23569 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3711 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20158 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2113 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15205 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20042 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1777 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18237 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03079 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06236 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05486 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08592 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04681 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03435 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04319 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03962 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05518 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04134 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02496 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00156 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00236 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32038 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59458 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60037 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72796 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57059 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49584 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51609 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76295 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52629 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63815 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5167 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36545 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68641 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66842 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79137 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65202 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58707 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57697 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81785 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60716 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71539 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60164 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37588 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69713 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6766 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79802 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.664 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59705 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58467 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.823 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61678 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72427 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61324 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38012 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69987 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68066 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80124 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6706 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6016 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82528 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62215 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72762 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61845 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38161 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70076 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68234 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80211 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67328 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6029 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59115 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82578 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62339 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72872 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61972 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86696 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38172 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70079 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68239 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80213 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6734 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60294 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59134 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82578 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62343 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86696 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38172 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70079 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68239 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80213 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6734 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60294 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59134 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82578 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62343 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72873 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59563 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64578 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67677 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65798 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59884 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60518 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63794 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63473 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66631 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80768 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71816 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61465 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64923 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78883 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75864 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74065 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69035 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67625 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72127 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74458 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64603 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68084 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72127 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74458 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64603 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68084 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2031 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37034 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25624 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46672 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53842 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40676 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49994 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48725 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49644 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58821 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46374 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53097 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61755 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62676 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5134 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60729 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56977 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59667 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67143 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53893 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60305 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64734 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60346 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6136 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64734 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53312 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60346 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2031 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24751 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37034 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25624 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.34111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33778 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46534 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59205 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45471 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55979 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69478 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58885 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68504 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55717 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7014 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.68917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73589 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75361 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7657 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.80913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68933 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.8432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.80171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.78833 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.71488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.81124 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88304 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.9347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.9605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.88975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.9084 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84703 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92771 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59563 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56857 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44624 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39496 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23159 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33661 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33303 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.34022 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2043 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.16227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08112 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04882 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05415 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03693 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01855 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59563 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78181 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74504 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56494 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78767 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79325 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79463 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69664 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59667 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78891 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79776 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79609 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69987 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58006 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60306 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79776 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79615 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70013 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58052 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60347 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75234 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78904 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79776 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70928 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79615 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70013 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58052 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60347 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-base/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/multilingual-e5-base/bge-reranker-v2-m3/results.json deleted file mode 100644 index e22458147899348a201555a335d7bded8203daf1..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-base/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33648 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62169 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63259 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74078 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60984 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49584 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54448 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54304 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66845 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61746 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30335 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55427 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5945 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68912 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56963 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42903 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56386 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68939 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48841 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60342 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56364 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30232 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54412 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5919 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67153 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5823 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40533 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58026 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69715 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4915 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59771 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5608 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78518 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31586 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56794 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60912 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68688 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61923 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42064 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7222 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69651 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51488 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61952 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5757 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34048 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60382 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63972 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73644 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45473 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62065 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73784 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53725 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64807 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59231 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34213 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60499 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64185 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73818 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65187 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45601 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73845 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53805 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64899 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59295 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34213 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60499 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64185 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73818 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65187 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45601 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73845 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53805 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64899 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59295 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33777 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1278 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18778 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28088 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20615 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27127 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12948 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34224 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23075 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26029 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30098 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.54375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20197 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3286 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42363 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39312 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43179 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48321 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55777 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34735 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41211 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41606 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23193 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39863 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4819 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49008 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48364 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27703 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52222 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60603 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3896 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47215 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4612 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69883 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2587 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4615 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53311 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58573 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52284 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31829 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54989 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63768 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42063 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52293 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49485 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71922 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48439 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55334 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62315 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53899 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3376 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55968 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64701 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43206 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54109 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50547 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27198 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48464 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55376 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62363 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53923 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33783 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55981 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64711 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27198 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48464 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55376 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62363 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53923 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33783 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55981 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64711 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33777 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1278 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18778 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28088 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20615 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27127 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12948 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34224 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23075 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26029 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30098 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22995 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36343 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45873 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42496 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48802 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26566 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53521 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59577 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39694 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45629 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45607 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7091 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27894 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47056 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54419 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55346 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58571 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33567 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60787 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67978 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67224 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47838 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54997 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53077 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.84617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33619 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59217 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63732 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70679 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69003 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42429 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.67057 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75021 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55551 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65033 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60214 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.93848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40404 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71334 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82311 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77978 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51007 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73057 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79133 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61822 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72229 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64336 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82931 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82931 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51552 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33648 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62169 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63259 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74078 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60984 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49584 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54448 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54304 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66845 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61746 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23802 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47712 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44506 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60748 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42824 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38061 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34742 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45821 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42038 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36742 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47257 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3925 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.4457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19001 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39717 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35328 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51641 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32607 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30648 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25741 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33651 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2818 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37398 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30252 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12449 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26565 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23116 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35775 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20182 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.20316 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15495 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19809 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17377 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24064 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18653 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0639 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03083 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06258 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05467 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08592 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04694 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04955 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03459 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04314 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03964 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05542 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02496 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00156 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00236 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80507 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33648 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62169 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63259 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74078 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60984 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4964 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54448 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79571 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54304 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66845 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61746 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.84949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38266 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6923 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68928 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79733 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68844 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.57184 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60494 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8372 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78383 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62074 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73133 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.67711 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38971 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70135 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69665 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80403 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73035 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69954 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58192 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61286 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84242 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63073 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73929 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68476 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85766 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39351 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70657 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.7009 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80723 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70565 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58902 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61561 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84427 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63495 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68802 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39546 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70813 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70232 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80827 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70719 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59118 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61748 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84457 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6363 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74445 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68862 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39556 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70816 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70238 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80828 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70721 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59121 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61754 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8446 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63633 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74447 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68864 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8591 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39556 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70816 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70238 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80828 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70721 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59121 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61754 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8446 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63633 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74447 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68864 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67947 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68841 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57677 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61785 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70718 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59381 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60492 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65241 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71696 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7425 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67916 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76448 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77864 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69488 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76686 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6975 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76356 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76686 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6975 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24731 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28708 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52221 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43085 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58835 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62155 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49173 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59348 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51673 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65874 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5402 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.639 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61816 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67447 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62184 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67489 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67489 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.22192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24731 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35485 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28708 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4912 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60539 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70281 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63657 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63435 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70747 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71988 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59752 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.70376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.78715 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.78766 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76814 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.83067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81587 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71434 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.86531 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.82645 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.8138 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.72906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.87149 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.89648 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.90338 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86176 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.94479 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47133 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4408 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23427 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50237 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34973 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25767 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2121 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22486 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.20135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.16104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08715 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04855 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04616 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59664 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70401 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68721 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58835 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91639 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79556 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71535 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66979 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80373 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71969 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61816 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83264 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82561 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72261 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67856 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62184 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83268 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.81028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83268 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62208 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-base/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/multilingual-e5-base/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index 0b9281f2657905bb71b41cb72162db2195720fe6..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-base/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24931 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16559 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56544 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50849 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15845 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43659 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31686 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46216 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26203 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48565 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.234 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.1642 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49622 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52919 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47129 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14624 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46471 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41534 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25988 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47073 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19122 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23789 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17175 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50332 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51822 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4868 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14846 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48703 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33545 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42105 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47252 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.23028 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25467 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20067 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53171 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54368 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52823 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17143 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51892 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37476 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63021 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45075 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30173 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49767 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.36033 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29251 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30294 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57678 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63036 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57832 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25292 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55026 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44823 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48742 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3912 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52905 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.41077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29689 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58024 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63918 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58457 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27754 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55358 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46775 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65355 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41816 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53077 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.41077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29689 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.342 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58024 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63918 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58457 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27754 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55358 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46775 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65355 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41816 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53077 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09614 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05085 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21658 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15409 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04586 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26832 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19477 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.12074 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.10803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15317 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08821 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34306 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28898 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3526 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.07401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38894 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23632 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2898 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.17633 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33816 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.12865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17703 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10785 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39395 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35655 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39579 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08915 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42528 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.26273 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32555 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19911 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37445 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1994 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13184 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44451 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43088 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.09743 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43259 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10819 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45541 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.28514 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3554 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22282 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40826 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21673 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16518 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47083 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48142 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45354 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13515 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46931 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.30899 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37188 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25455 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4245 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2174 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17225 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4715 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48355 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13931 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46971 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31213 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37224 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25947 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42481 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2174 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17225 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4715 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48355 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13931 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46971 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31213 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37224 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25947 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42481 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09614 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05085 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21658 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15409 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04586 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26832 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19477 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.12074 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.14645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18117 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11562 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39882 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3279 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40476 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09361 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.30022 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33993 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21555 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20669 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22675 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16492 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48445 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43335 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49269 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13133 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53003 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37499 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61985 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4144 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2743 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46494 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30836 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28604 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24832 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59169 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58146 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60388 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19955 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6181 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47402 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50347 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36076 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55391 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72604 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39174 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53778 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.7081 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79687 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75735 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42387 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.7181 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71098 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74702 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60971 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61768 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63878 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24931 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16559 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56544 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16809 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50849 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15845 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43659 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31686 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46216 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26203 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48565 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1417 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18434 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14378 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37464 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.466 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35149 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12779 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28938 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20866 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31003 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19192 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33099 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.12489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15114 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12799 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30595 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39788 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27276 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11446 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21956 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16569 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24136 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16138 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25788 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10383 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10401 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21059 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28853 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17627 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09235 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13943 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.11179 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.15627 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11872 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16784 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.04895 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03009 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04902 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05425 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0833 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.05707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04105 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03416 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.0375 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.0356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0392 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.04676 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04115 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02497 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00156 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00236 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17841 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24931 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16559 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4969 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56575 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50908 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15845 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43659 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31686 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46216 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26263 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48565 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.24853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29919 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22775 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58664 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64815 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58924 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21505 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50841 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40391 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69929 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54198 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3369 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57381 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30871 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24661 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59829 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66148 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60301 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23347 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52053 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42491 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55501 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.359 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58612 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28689 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3154 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26304 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.605 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66909 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61196 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24814 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5269 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44001 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56206 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37426 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59269 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31922 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27778 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60786 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67243 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61611 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26053 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53002 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44903 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56517 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3846 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59466 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31945 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27883 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60795 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67259 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61634 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26147 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53024 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44956 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5653 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38538 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59471 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31945 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27883 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60795 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67259 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61634 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26147 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53024 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44956 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5653 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38538 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59471 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48782 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53371 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59489 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43833 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49727 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47845 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47691 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53087 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67578 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44973 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52371 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5271 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52061 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56813 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66026 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5023 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54887 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7085 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60052 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57792 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59654 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62631 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60115 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62631 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71638 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60115 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16073 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35125 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32297 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.35741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48991 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31132 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46921 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33724 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39154 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53934 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52707 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35232 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50085 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48387 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56408 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39778 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49452 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45684 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50616 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50544 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45881 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58877 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45881 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45551 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52851 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58877 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47121 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16073 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30093 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35125 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29353 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32307 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53665 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37226 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57831 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61551 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64257 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58347 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6174 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72327 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58667 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.71822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.70969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71888 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.85425 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.83894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84285 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.89289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.88286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87977 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.83488 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.80359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92771 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41522 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43143 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38799 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3388 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.36577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19277 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38343 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26776 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.23922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12851 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.26982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.20197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.1828 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15798 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07189 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04715 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.0437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01855 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65054 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51585 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46921 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7331 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73826 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5735 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67216 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48387 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83016 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58309 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49452 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63001 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74265 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74626 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59023 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55552 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50543 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63758 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74652 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63758 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74652 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50586 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-base/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/multilingual-e5-base/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index 7fd863d305019950e7e7ba436f8781e4986201ee..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-base/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25652 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21509 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4777 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56148 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44543 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46278 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48007 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23791 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21535 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46465 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52423 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45301 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.20217 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46464 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42525 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30626 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45462 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28783 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24206 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22487 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47417 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51239 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46477 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19877 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48682 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44672 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42954 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.32121 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45613 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26099 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25768 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50419 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53593 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50729 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22366 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51455 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48775 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46014 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35182 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4801 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29531 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36066 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55512 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62507 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5635 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29894 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54883 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54595 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49527 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43549 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5147 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.49175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29926 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38406 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56027 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63494 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56993 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55287 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55623 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49727 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51868 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.49175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29926 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38406 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56027 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63494 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56993 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55287 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55623 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49727 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51868 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.11364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09295 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06347 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20913 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.154 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2122 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05604 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27452 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24353 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19992 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23299 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.18014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15307 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11466 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31952 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2876 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33848 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09885 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38892 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33496 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50381 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29647 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1951 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3266 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17773 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14156 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36716 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35271 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37686 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11906 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42546 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36185 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33239 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22677 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36119 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.24369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20314 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17162 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41667 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42437 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41306 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14441 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45365 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38976 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36446 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.256 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39319 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21921 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21126 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4449 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47548 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.436 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17211 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46859 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41181 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57016 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3805 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40993 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21977 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21567 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44581 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47782 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43703 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17471 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4691 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41361 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38078 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29264 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41052 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21977 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21567 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44581 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47782 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43703 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17471 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4691 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41361 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38078 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29264 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41052 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.11364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09295 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06347 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20913 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.154 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2122 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05604 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27452 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24353 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19992 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.1246 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23299 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2262 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18226 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15193 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36527 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32643 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39221 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12751 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4475 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40139 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34439 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24861 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38115 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2313 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21597 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42771 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47097 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17327 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52558 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47072 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41836 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3275 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44851 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42922 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29751 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31429 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56582 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57087 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5839 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2547 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60375 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5747 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50993 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42323 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53343 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3938 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59772 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70031 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79266 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75631 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45903 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71439 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75145 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61243 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66165 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62876 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82931 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82931 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25652 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21509 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4777 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56148 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44543 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46278 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48007 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.21953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19026 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18975 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34882 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46115 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33685 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18079 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28644 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2833 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31619 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23906 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31634 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15713 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17042 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28761 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39206 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25835 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15479 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21943 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21084 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26265 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24737 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20285 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24534 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.13866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10894 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13377 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20099 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28302 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16948 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11939 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13754 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.13764 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.15991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.14522 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16011 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.05519 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03017 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05463 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05382 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08293 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0447 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03404 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04015 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03934 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05011 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04055 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02497 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00156 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00236 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25652 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21509 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4777 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56148 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21274 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44543 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46278 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48007 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37188 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30437 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29454 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55607 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64235 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56346 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29326 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51083 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55331 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55661 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40216 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55839 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.39157 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31533 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31829 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57094 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65571 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57676 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30941 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52275 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57061 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57039 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42521 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57037 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32207 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.335 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57869 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6631 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58665 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32417 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52807 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58183 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57652 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43758 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57695 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42108 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32511 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34592 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58176 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66695 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5918 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33338 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53165 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58664 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5798 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44543 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57931 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32534 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3465 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58198 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66711 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59206 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53193 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58685 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57954 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32534 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3465 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58198 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66711 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59206 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33401 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53193 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58685 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57954 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68773 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60503 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43222 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53595 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50431 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56205 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68753 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57605 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65749 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49851 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.509 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60151 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7982 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57729 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57511 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6325 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64361 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72775 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58843 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63647 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64361 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72775 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58843 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63647 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.29133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30895 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50736 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54809 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35272 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52985 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48891 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56178 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39625 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46428 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54006 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47519 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46539 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5345 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60497 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42937 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46852 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44505 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54714 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57754 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47714 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57754 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43131 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48295 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44665 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36288 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.20295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30069 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.28437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54777 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35336 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61847 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.419 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50288 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64544 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44726 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71486 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57619 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74607 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57589 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.77715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.71858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.73318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79518 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8583 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.84686 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.85879 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90526 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89628 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43744 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39606 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32878 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22849 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.20616 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35376 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39941 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26393 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14297 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.24162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18683 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18142 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07952 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07639 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.0478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0523 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54913 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57738 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41767 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63247 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6942 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72715 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50736 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70557 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70865 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74274 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57609 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54248 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50148 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52985 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64667 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74616 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54006 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66373 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59331 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54714 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65206 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74949 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5937 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66823 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65206 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7184 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74949 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5937 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66823 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54751 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-base/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/multilingual-e5-base/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index cc61a3b4712e344348457e0dd5fc70dac1089cda..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-base/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71861 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24986 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49146 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52726 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67416 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5577 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41607 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46688 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64622 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48296 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51753 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50264 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64861 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2416 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46125 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52745 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63702 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52643 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36498 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48733 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57894 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4573 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48918 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48282 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66205 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24535 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45767 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5299 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62834 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47441 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54987 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35146 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50845 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59693 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46163 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71365 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48507 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55487 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65398 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58891 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36459 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53546 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6319 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48915 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52083 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50967 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29221 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.537 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59034 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70278 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61722 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40874 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56099 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65914 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51148 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56689 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53425 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29716 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54254 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59431 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70707 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62193 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4141 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56518 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66256 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51294 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57199 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5368 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29716 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54254 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59431 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70707 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62193 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4141 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56518 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66256 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51294 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57199 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5368 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0832 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14341 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22019 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17731 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23081 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10381 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27598 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33005 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19438 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23177 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.4636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14668 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26042 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35873 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34779 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38629 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18717 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40274 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45332 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31173 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31615 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33941 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.5442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1747 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31947 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41297 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.44343 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4471 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.228 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44377 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5009 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35704 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36733 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61452 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20198 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37486 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46891 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54671 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35441 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4905 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26423 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47435 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53583 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39244 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41924 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21593 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40299 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49073 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58171 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50342 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28465 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48558 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54818 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40277 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43868 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21667 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40403 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49142 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58265 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50411 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28562 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48603 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54874 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40299 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43968 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43251 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21667 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40403 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49142 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58265 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50411 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28562 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48603 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54874 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40299 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43968 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43251 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0832 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14341 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22019 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17731 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23081 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10381 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27598 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33005 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34565 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19438 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23177 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.5121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18064 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30556 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41236 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38663 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44679 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22204 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46455 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50817 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37352 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37208 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39781 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23387 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40498 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50101 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52176 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.36412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56207 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29553 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54553 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6039 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45595 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46755 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48213 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29717 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52574 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60979 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69113 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67152 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37524 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.62314 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54597 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58007 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56533 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.92396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38944 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66412 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70431 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.81165 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76234 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49446 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71212 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77829 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.615 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7049 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63478 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94178 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41164 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68613 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72249 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82938 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78533 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79398 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71861 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24986 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49146 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52726 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67416 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5577 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41607 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46688 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64622 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48296 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51753 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50264 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50496 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20248 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4064 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40913 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57145 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40949 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3265 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31272 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39011 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36029 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39156 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34896 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16768 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34496 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33135 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49777 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32712 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27258 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23937 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29684 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2825 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27709 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11466 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23789 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22503 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35654 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20504 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18188 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14839 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18374 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15987 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17643 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21266 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17698 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06337 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02991 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06118 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05426 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08521 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04818 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03409 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04244 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05412 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03148 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02765 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04329 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02497 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02166 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.01991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02082 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0032 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00156 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00277 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00236 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00199 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00279 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00208 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24986 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49146 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52788 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67432 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58164 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5577 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41717 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46625 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64681 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48296 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51872 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50205 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31085 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61565 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74885 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64519 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50332 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53638 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71848 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57895 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.612 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58973 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78742 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32023 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60154 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62529 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75783 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65928 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54446 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73057 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58848 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62546 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79147 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32477 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6088 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63051 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76131 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66487 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52336 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5489 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73481 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69749 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59346 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63239 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6061 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3278 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61115 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63247 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76274 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.667 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52708 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55164 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73655 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59558 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63481 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60792 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32801 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61135 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63261 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76284 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6672 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52722 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55194 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73667 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59564 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63494 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60803 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32801 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61135 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63261 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76284 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6672 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52722 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55194 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73667 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59564 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63494 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60803 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62842 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64967 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74128 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66754 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57759 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4755 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51296 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57496 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61918 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67729 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59354 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64385 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50804 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60384 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68567 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79733 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64655 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58997 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63139 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76121 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68245 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63832 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65735 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73698 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76501 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68794 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66203 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73698 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76501 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68794 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60883 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66203 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37435 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25562 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40443 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39622 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54088 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54752 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49023 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59065 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48472 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56399 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57945 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58712 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56569 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.641 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57476 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60001 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61537 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65461 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5585 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51192 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58045 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58089 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61608 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62991 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55928 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58089 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19915 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.23935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37435 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25562 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4031 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49158 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55644 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59002 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48078 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65462 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6807 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59483 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72289 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80943 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.85533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.77865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72799 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.81124 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88107 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87224 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.93047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.88952 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89617 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.84192 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.91271 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.8354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92771 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.91588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.98495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.95501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.95722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.87462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62842 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4623 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45789 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45264 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21821 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48047 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14458 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33107 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.34402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.22353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21586 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23415 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.20405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08112 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04839 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05399 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03693 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04538 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01855 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.02532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02757 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67227 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62842 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80678 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71767 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61251 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54752 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79919 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71194 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56399 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76612 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80302 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73152 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57476 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76155 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76954 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77332 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80449 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73344 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58044 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76169 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76965 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80463 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58089 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-base", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-base", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76169 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76965 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81656 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80463 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73375 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72285 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64044 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58089 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-large/NoReranker/results.json b/AIR-Bench_24.04/multilingual-e5-large/NoReranker/results.json deleted file mode 100644 index 822813dfa21af54450a09d8ece1b2692c281bae4..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-large/NoReranker/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16102 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41544 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5819 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52724 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30139 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41136 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67362 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40208 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52704 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35149 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1604 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37765 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4028 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53789 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46797 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26064 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43685 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57414 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34051 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46448 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34189 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1729 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37264 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41122 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52611 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47531 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24775 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44891 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57678 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34384 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45695 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35083 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19664 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39715 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43499 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54435 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.33741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50634 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26981 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47766 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60567 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36926 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.48267 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37547 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25132 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49708 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56115 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51744 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64972 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42698 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54674 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42722 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74589 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26658 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49588 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51194 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64432 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57327 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35879 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52621 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66069 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44376 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56171 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44139 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30459 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52735 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53923 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66183 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59434 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39653 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54449 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67802 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60978 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47623 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58474 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47211 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06269 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12486 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18453 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15815 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23447 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.07635 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26173 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.32724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17209 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21357 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17314 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45963 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10307 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21437 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28072 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29429 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35354 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13133 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.36874 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45301 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23693 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31256 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24268 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12388 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25485 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31948 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36315 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38844 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15429 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39351 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48418 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26096 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34665 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26866 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.5628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14459 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29487 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35531 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43444 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41647 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18275 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41828 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5098 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45657 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28216 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38352 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29226 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16445 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33039 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38445 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48378 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26988 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43772 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21009 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43403 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52866 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30204 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41317 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31253 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16679 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33411 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38701 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.487 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4397 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21339 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43527 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53051 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30475 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41581 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3148 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16878 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3365 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38877 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48852 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2791 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44109 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21595 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43611 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53169 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30686 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41754 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3166 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06269 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12486 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.18453 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15815 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23447 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.07635 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26173 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.32724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17209 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21357 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17314 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12865 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25166 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32605 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33025 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39807 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16014 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.428 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50096 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27672 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3525 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29478 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17797 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3314 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40138 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43614 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47144 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.20711 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4814 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56526 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33598 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41789 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36122 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2488 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.43403 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49163 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57508 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56062 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28924 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5619 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64432 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4141 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51525 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44034 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91486 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.414 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64651 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66273 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79095 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73099 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47805 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69329 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77598 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59231 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69183 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59009 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.9933 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.7131 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.88809 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.87908 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.93407 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.90544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.90777 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.74644 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.87025 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.9221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.89077 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.85148 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.87761 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.82383 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16102 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41544 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5819 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52724 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30139 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41136 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67362 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40208 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52704 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35149 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.129 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.32469 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29843 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47207 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34134 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22973 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26393 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37006 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24398 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35056 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23452 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.3576 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11294 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26906 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.243 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40307 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25565 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1877 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.19356 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2654 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.21042 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1866 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27106 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18489 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.22896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08429 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18874 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.1676 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28637 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.15929 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13789 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.12265 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16087 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.12924 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.12074 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.18265 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.12455 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.0618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02987 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05922 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05015 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08232 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04362 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04657 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03238 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03715 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05311 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03749 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00241 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00397 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00326 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00476 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00349 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00194 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00257 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0027 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00336 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00271 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16102 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41544 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40644 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5819 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52724 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30139 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41136 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67362 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53619 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40208 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52704 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35149 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20572 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49813 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48276 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65625 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.49244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59217 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37433 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47897 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73705 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46803 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60061 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43146 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79021 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21949 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51676 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4967 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66945 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60456 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4873 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74497 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48256 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61253 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44859 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22949 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52563 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67672 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52313 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6128 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40083 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49484 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74971 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49141 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6203 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4592 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79778 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23732 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53142 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51177 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68028 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6172 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40863 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49924 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75212 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4976 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62468 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46463 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79794 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23807 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53197 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51221 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68048 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53058 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61763 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40925 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49964 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75232 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49815 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62511 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4651 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79801 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53223 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51257 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68062 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61785 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4097 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50003 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75244 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4985 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62529 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46551 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60484 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.543 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56328 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52946 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47035 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45282 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54599 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55584 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54998 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61199 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49959 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53319 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47674 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46527 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57381 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66086 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54873 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57759 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52497 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64557 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6011 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64035 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58233 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6394 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68216 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65663 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61639 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64387 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70069 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69723 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63519 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60832 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60367 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64938 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.25938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32899 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2425 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31553 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32455 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.42041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.37804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3953 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34958 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40752 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52075 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42555 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39563 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41175 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45681 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53601 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46264 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46587 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54373 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42281 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54805 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52184 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.50754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51025 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46573 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4712 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.50896 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45442 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43702 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55711 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51009 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51316 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59049 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5118 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45756 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55747 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59119 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5133 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45905 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47741 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55774 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.22352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25615 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.25938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.27315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32899 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2425 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31553 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21759 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36224 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39781 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46546 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39983 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55192 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50618 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61847 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52659 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68675 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67715 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64406 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6345 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59388 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.73714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.87312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87782 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86095 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.92487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.79772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.84075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.84954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82647 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81358 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.9925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.99852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.99359 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.97649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.99772 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60484 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45472 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47732 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50147 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51178 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35294 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3405 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25971 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32026 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.20616 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.3858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.39402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.25239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.25994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.24086 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25792 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.2773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.19939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13735 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.24711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.26568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26785 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.18244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.16366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.16527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.15242 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17568 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07671 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07712 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04366 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00425 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00312 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60484 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51913 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.39877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.43775 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.70039 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67968 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66891 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52075 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71643 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.698 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6245 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68221 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61566 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5585 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53601 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72795 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7624 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63431 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69269 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62727 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53493 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5708 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54805 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7264 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80494 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69667 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63205 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55711 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73124 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76523 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80508 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65143 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67596 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69693 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55747 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63918 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6971 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55774 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-large/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/multilingual-e5-large/bce-reranker-base_v1/results.json deleted file mode 100644 index dd1596fa8639731debaae52246a77eed1a5e671d..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-large/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35258 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59811 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55081 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57059 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45706 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51546 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7433 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54593 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61319 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57059 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.67124 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32179 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53833 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61187 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52369 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40619 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53795 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64612 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48424 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55649 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52567 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32719 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52611 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54201 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59918 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53244 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53908 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39273 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5534 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6549 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48619 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55952 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52567 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34532 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55673 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57129 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62497 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5469 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57655 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41603 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57767 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6909 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5154 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59276 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54525 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37412 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60458 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60499 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69332 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61439 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4567 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59906 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72046 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54545 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63277 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5678 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37705 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60736 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61823 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4591 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60091 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72138 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5479 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63487 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56892 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37705 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60736 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60702 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61823 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4591 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60091 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72138 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5479 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63487 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56892 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13644 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18281 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23852 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17298 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11854 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32008 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3869 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22626 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24508 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27192 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.4881 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21505 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3153 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.37557 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33491 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38361 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2134 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45377 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5176 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34229 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37679 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38066 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24996 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38137 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42915 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41897 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43549 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25974 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49073 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56107 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38294 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43488 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42254 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27956 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48331 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50962 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47485 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30499 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51934 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59793 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41776 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49034 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45671 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29415 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47509 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50551 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5567 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49269 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32762 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52954 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61332 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43211 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5137 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46932 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29459 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47562 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50594 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55754 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49333 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32813 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52976 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61349 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43244 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51413 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46953 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29459 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47562 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50594 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55754 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49333 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32813 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52976 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61349 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43244 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51413 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46953 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13644 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18281 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23852 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17298 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23878 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11854 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32008 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3869 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22626 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24508 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27192 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.53467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24812 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3536 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42583 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37614 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44326 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25335 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51381 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56085 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39494 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41912 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42978 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31211 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4607 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51462 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49993 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4075 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54468 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58356 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64161 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47257 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5207 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50676 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38316 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59065 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62848 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66327 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43847 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.65566 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73552 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56264 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64109 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58614 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.93943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.46514 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70985 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71244 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82995 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.76576 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54173 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72661 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81963 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65122 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74471 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64477 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35258 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59811 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55081 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65074 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57059 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45706 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51546 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7433 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66879 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54593 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61319 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57059 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51891 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25023 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.45708 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40851 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4009 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36602 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3346 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42605 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36453 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43335 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36712 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.41443 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.204 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38397 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32912 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46615 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3099 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30515 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2482 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31495 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27972 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28459 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13487 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26282 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22398 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.33464 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19373 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2087 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15123 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19357 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17678 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23559 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17961 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03391 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06528 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05436 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08655 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04614 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05261 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03408 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.0448 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04162 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05725 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04155 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00211 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74339 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35258 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59811 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55204 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65089 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57176 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45873 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51483 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7427 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66821 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54593 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61378 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57001 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.40394 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.67364 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63321 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73047 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65661 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54875 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58402 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79988 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62132 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68875 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64138 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.41424 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64353 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74093 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6678 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56222 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59074 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.807 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63151 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70129 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6526 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4196 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69243 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65004 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74584 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6736 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56949 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59477 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81009 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63637 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7066 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65596 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81666 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42216 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69475 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65132 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74747 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67649 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.57148 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5969 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81137 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6383 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70875 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65714 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42231 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69483 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65145 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74752 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67663 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.57154 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59701 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8114 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74994 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63843 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70878 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6572 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42231 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69483 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65145 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74752 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67663 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.57154 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59701 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8114 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74994 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63843 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70878 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6572 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7071 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62568 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57066 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56725 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47614 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63708 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74318 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50388 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46284 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5178 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66309 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68864 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63444 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55359 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74011 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72792 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68277 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62974 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58395 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5937 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59769 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73083 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74603 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78117 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59769 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34292 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3887 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36097 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39955 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45816 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49167 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50642 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51114 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41998 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44913 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55956 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55661 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48053 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52079 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37825 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47242 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55101 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57466 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59228 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53571 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.41784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48763 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58597 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61403 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6125 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55834 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50416 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44648 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49718 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61297 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49755 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61469 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61297 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50455 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49755 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34292 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.31652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.20412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40233 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.57068 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46486 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4927 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39052 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55422 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68473 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65837 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5738 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49544 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65462 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72465 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75707 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70542 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.81888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.75025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76305 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90511 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.9558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84146 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88212 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85577 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.84934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93574 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7071 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62568 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50867 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.45258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.43996 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38198 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.32306 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18474 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42197 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46126 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44602 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32473 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2319 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13092 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30442 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19785 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19378 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.17031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07631 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.07035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.08024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.0741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07701 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05476 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04964 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04747 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05492 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04589 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04566 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01871 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7071 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62568 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56757 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.39763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.36546 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75179 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70036 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49456 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44913 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75973 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76134 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47242 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78567 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7367 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71614 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57756 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48803 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7674 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72116 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69893 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56881 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49721 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72142 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5388 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49758 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75076 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8188 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78684 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76749 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72142 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5388 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49758 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-large/bge-reranker-large/results.json b/AIR-Bench_24.04/multilingual-e5-large/bge-reranker-large/results.json deleted file mode 100644 index 439f1c45a2e778398082ea7128d1cb6f8364cb28..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-large/bge-reranker-large/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37812 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59635 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58798 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72907 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56591 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49418 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5142 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52917 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64765 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5536 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74175 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34141 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5628 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57378 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68924 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52999 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44757 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53059 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68167 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48368 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59349 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52757 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34627 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56103 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57451 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67811 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54551 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4315 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54386 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69678 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49509 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59996 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52737 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36319 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58609 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59433 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69964 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45256 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56928 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72641 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69637 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52544 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62693 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5459 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.387 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62063 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62387 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74241 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6202 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48214 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59234 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74247 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54817 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65508 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56514 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39034 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62324 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62566 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74466 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62276 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48376 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59552 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74321 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55001 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65693 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56631 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39034 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62324 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62566 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74466 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61588 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62276 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48376 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59552 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74321 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55001 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65693 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56631 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33777 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15115 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17993 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25294 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19801 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24342 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12927 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39026 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21783 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25039 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26086 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55176 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23139 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33231 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39935 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38866 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39262 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23927 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44932 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56254 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33893 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40013 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37937 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26758 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40974 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4595 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.493 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.36153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44588 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29314 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48524 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60115 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38931 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46889 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42436 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71774 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29963 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47759 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51417 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59971 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48748 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34203 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5143 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63784 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42715 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52628 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45965 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3124 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49986 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5333 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6321 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50403 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35984 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52532 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64678 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63249 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43818 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5441 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47001 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73452 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31282 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50036 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53361 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63267 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50442 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36018 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52571 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64691 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43842 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54451 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4702 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73452 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31282 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50036 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53361 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63267 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50442 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36018 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52571 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64691 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63269 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43842 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54451 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4702 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33777 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15115 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17993 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.25294 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19801 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.24342 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12927 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39026 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21783 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25039 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26086 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2617 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37908 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44492 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42356 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44903 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59979 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3953 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44773 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42885 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32514 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4994 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53636 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56301 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55037 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36713 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56864 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69555 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56152 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50929 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86843 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39333 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62402 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63715 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73088 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66057 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47034 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.643 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7761 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73994 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58651 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67297 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5911 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.46205 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71156 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71476 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83499 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77122 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54445 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71931 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82016 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65386 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7459 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64455 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37812 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59635 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58798 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72907 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56591 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49418 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5142 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52917 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64765 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5536 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.57269 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.263 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49322 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43928 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61428 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54714 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40539 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40425 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32892 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46218 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41942 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37088 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47138 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37961 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46046 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2151 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4198 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35378 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53119 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31482 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33507 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24265 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34783 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29451 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38515 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29537 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29328 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14203 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28073 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23451 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37354 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19842 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22438 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14896 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20739 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18544 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25092 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1853 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03398 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06535 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05456 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08693 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07816 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04647 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0529 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03391 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04487 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04176 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05728 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00211 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80782 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37812 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59635 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58798 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72939 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65155 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56591 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49474 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5142 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.757 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70122 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52917 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64765 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5536 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85921 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.42541 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.68818 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6615 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79103 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64646 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.59049 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57508 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.81963 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76288 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61236 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7241 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43566 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69949 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67043 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79843 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65952 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60007 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58142 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82461 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.76885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62403 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73361 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43945 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70391 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67474 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80161 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7442 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66616 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60571 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58611 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8267 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62949 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73742 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64532 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86673 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4415 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.705 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67643 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80272 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.7453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66913 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60718 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58855 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82742 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.631 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73857 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64661 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70506 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67649 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80276 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.74535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66922 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6072 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58878 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82744 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63108 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73862 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64663 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.70506 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67649 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80276 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.74535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66922 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.6072 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58878 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82744 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63108 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73862 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64663 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48594 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61572 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64333 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67832 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57977 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66367 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53874 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51605 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60518 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63787 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67794 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69001 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68654 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67542 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59995 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63663 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.69442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71544 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60746 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65332 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65357 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75062 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7634 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76453 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66703 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73829 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68113 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75593 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68445 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69391 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75593 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68981 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66168 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68445 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.2215 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33954 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48594 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42564 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46911 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54606 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39565 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50351 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46357 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57564 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48842 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.56211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59376 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45363 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52875 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59311 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56745 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71331 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63823 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50404 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52098 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60013 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59486 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64802 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53253 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60641 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64832 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58055 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60672 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64804 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74124 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64832 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62255 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58055 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60672 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21038 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.20821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.2215 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2492 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35182 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37581 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33954 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48594 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46699 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51042 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.47882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59443 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44436 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55673 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69076 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60969 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69262 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68146 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.69016 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59572 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74766 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82325 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72673 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77369 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68382 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.83766 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.79874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.7908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.71215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.81928 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8928 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.91911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.89932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.90976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88879 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.86586 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.96986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.85903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48594 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56657 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63043 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.45072 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41257 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.40541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23025 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3306 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29277 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33728 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20161 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21776 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.16227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.08048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07846 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.0498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.0478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05525 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83424 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48594 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78495 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66803 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54055 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57564 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6821 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65005 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59311 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.80207 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82186 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79605 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69051 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71145 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60013 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75473 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.80457 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79803 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69391 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57417 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60643 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75498 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.80466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79807 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60675 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75498 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.80466 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.89344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71632 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79807 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66083 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60675 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-large/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/multilingual-e5-large/bge-reranker-v2-m3/results.json deleted file mode 100644 index c98cbf8bd9bd010ab002054a09b3b068298cbcb1..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-large/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38923 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62887 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73825 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61336 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54259 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79095 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57366 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66548 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73138 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34963 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56577 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59387 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68913 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57153 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44282 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56027 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69652 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51511 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60604 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56993 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34979 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5549 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59189 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67227 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58191 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42485 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57471 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70767 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51767 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60383 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56496 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36655 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.57999 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6084 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68957 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54981 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61851 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44261 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59577 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73411 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54418 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62817 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57727 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39355 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62335 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63925 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.742 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.60824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64951 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48028 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61592 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7525 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5688 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66066 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59492 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82288 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39578 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62511 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64086 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74397 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65101 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48185 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75335 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56988 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66197 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59568 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.82288 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39578 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62511 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64086 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74397 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.61078 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65101 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48185 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6174 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.75335 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56988 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66197 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59568 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15846 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19174 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27801 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20605 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26989 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13593 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34021 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2489 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25825 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29913 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.54414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24124 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33695 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42186 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39359 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.2801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43261 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.24094 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4794 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56435 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37097 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41334 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41914 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27414 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40767 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48056 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49095 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48267 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29094 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51667 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61654 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41574 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47668 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46325 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70203 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30444 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47362 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53064 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58814 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52219 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33508 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54311 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64966 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44933 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53075 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49512 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31845 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50038 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55092 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62725 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53825 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35689 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55308 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66022 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65366 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46169 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55084 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50593 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50075 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62779 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53849 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35718 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55327 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66036 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46184 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55114 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50605 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50075 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62779 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53849 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35718 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55327 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66036 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46184 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55114 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50605 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15846 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19174 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27801 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20605 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26989 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13593 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34021 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41157 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.2489 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25825 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29913 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58354 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27139 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3743 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45907 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42564 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48934 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27331 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53283 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60686 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62553 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42012 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45688 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46227 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32625 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48252 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54506 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55519 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41647 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58428 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35535 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60045 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69609 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50202 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55796 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53493 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8539 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39268 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60602 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63754 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71205 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68775 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66314 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.76978 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58713 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66439 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60139 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.94758 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.4681 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71528 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.71594 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.83644 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.68759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.77643 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54428 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.72885 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8196 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78344 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6582 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74819 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64619 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38923 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62887 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73825 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65475 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61336 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54259 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79095 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57366 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66548 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.56369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26596 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48831 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44486 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60759 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53664 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42921 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39261 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34448 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46615 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38475 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47673 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40012 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44769 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21077 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40507 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3544 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51689 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32455 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25401 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.34544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29497 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38146 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3058 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28673 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13809 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27225 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.23036 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35965 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3088 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20123 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21518 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.1523 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20387 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.17406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18348 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24694 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.18653 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03417 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.0656 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05454 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08699 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04669 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05295 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03415 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03761 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04188 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04166 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00211 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38923 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62887 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73825 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.65368 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.61277 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51302 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54259 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79095 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.75043 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57366 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.66548 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.84994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.43522 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69927 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6898 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79554 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69108 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58901 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60389 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.8385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.79666 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64616 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73084 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.68473 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44338 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.7087 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69658 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80242 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70221 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60131 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61077 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84305 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80118 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65566 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74094 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69141 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.44772 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71403 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70127 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80588 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.73992 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70778 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60734 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61387 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84496 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66002 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74513 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69429 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45003 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71617 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70261 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80711 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.74163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70946 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60927 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61602 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84544 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66182 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74662 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69506 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85968 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45017 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71621 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70265 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80713 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.74166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70951 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60931 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6161 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84548 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66187 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74664 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69508 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85968 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45017 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.71621 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70265 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80713 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.74166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.70951 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.60931 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6161 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.84548 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.80441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66187 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.74664 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.69508 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71965 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49799 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68727 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62137 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68045 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57793 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52738 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62387 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67141 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70816 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73416 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.69697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67392 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70051 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5956 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67352 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65844 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7458 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7202 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73829 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.64347 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64025 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68264 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7673 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69606 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69788 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65305 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.7006 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.774 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79062 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76991 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69857 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65654 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70262 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.774 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79062 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76991 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69857 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.65654 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70262 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21981 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38642 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26095 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35348 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49799 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42281 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51694 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55972 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46986 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54828 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.52786 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55988 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.433 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46511 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59371 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55687 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5218 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56051 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65129 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61604 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51376 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61278 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64989 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54362 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57284 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62249 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66443 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56945 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62685 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6648 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62705 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65451 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65139 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6648 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56992 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64939 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62705 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21981 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.24792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.27005 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.36152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38642 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.26095 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35348 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35775 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49799 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46265 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.59225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59064 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49056 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60954 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71084 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64056 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59786 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.6998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62882 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79518 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.8019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78113 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79483 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.83099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80073 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71817 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.85842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.81239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.81157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.73116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.87149 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.90819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.92607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.90489 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.95346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.9099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91104 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.88438 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.87783 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.9627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.94139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.8644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.94779 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71965 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49799 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46416 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44353 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26508 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23695 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5003 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34622 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35137 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15904 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3052 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34204 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20833 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1181 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19188 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08715 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.07029 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.08042 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.05031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04551 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02783 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04605 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01896 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71965 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70871 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76627 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86957 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4451 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49799 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.79624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81455 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8078 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70401 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63957 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55638 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59371 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79525 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73889 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.81774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5776 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61278 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79845 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83022 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84895 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91721 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8202 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71958 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58915 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62249 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81117 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85018 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82114 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72296 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74361 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5928 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62685 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81122 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83169 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62705 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81122 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80005 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83169 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.85029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82122 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.72304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74371 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69843 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62705 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-large/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/multilingual-e5-large/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index d4c83e14f23b3b5ba39b81a2b9de2e0a3ea4da44..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-large/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.18447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27429 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49504 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56417 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51728 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48122 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25966 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49326 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1843 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26393 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16281 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4918 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53028 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47517 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15915 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46371 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32488 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43526 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26482 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47297 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19909 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2691 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16909 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5028 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52041 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16545 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48972 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16203 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48492 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3441 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43972 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.27734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47718 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.23952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2894 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.20054 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52972 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54686 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52806 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18708 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5149 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38498 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47117 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31119 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50041 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37156 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33196 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30551 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57366 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63595 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31172 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57944 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27252 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54615 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46148 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51285 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39969 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3374 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35087 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5778 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64526 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58539 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29904 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5505 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48334 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51576 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4301 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5338 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3374 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35087 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5778 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64526 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58539 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29904 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5505 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48334 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51576 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4301 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5338 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10908 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04765 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21465 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15409 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22544 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04935 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26603 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16938 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20298 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11806 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23987 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.11371 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17489 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08594 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34114 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35513 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08029 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38786 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24667 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30635 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.17686 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3389 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.13482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20137 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10514 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39426 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35825 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39836 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09736 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42309 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.27054 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34264 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20101 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37683 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15933 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22635 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12978 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44308 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43376 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1055 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43321 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11791 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45179 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29423 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37435 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22766 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41021 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16465 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46848 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4854 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14819 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45474 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14683 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.465 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3195 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39289 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2601 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42559 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24646 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17287 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46919 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48768 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45574 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15149 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46551 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32311 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39328 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2656 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42596 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20995 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24646 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17287 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46919 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48768 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45574 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15149 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46551 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32311 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39328 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2656 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42596 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10908 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04765 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21465 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15409 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22544 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04935 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26603 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16938 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20298 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11806 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23987 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15308 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21119 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11504 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3959 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32927 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.08973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40717 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10193 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44882 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31403 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35921 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21874 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39488 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.21323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26233 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16242 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48692 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43631 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4939 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14269 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52621 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38167 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43217 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28074 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.31926 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33202 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25165 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59093 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58614 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59915 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21779 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.61027 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48462 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52622 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37648 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55386 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74311 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45461 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.54926 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.70493 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80921 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75665 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.45163 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.71275 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73032 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.64919 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63892 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.18447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27429 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49504 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56417 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51728 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48122 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25966 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49326 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.14794 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20526 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14319 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3703 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46743 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35364 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13943 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28917 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21958 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32525 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19984 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33197 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.13018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16724 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12775 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.30657 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40016 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.27417 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12654 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21855 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.2696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25199 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16791 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26034 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.10094 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11455 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10625 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20979 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.29084 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17463 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10122 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13754 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.11513 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16245 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.12585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16889 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.04994 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03317 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04997 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05383 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08427 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0611 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04547 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04378 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03365 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03864 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04148 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.0477 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04127 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00211 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.18447 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27485 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49442 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51728 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17396 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43533 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48122 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25966 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49326 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.25798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33426 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22432 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58127 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64836 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5952 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23241 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50789 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41632 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5622 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34492 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58065 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28001 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34453 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24306 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59326 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66236 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60806 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25252 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51962 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43633 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71524 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57433 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36679 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59351 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29746 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35247 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26194 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60076 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66963 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30076 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.617 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26993 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52604 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45002 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58209 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.38228 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59878 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.31342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35647 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27605 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60371 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67332 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62146 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28221 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52916 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45938 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58525 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39165 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60088 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.31454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35676 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27723 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60388 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67345 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62166 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28295 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52945 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45998 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58543 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39256 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60099 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.31454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35676 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.27723 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60388 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67345 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.31593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62166 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28295 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52945 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45998 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58543 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39256 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.60099 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65054 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48424 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49184 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53852 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57248 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59275 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43253 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50583 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48054 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52606 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67382 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60426 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5321 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53239 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63528 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50535 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52795 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55607 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65914 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70256 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58665 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69369 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59469 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60162 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6408 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59512 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57786 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60619 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6408 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70901 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59512 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57786 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60619 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18721 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30614 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28388 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32601 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.41432 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48761 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.44718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.37865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33478 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47523 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35938 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34129 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38859 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53584 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52319 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41495 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42124 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48969 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40835 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46121 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4903 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51013 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.53793 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.55853 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.40125 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44844 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44087 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49993 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46319 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.50901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53636 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58169 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43454 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51023 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46512 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51085 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43605 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51063 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46512 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46267 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51085 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58286 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43605 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45629 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51063 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18721 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29172 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21397 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36376 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51035 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53365 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36545 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53587 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46642 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38895 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59438 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51868 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63033 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60803 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47244 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4584 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60502 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58635 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6586 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71437 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5943 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58458 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73092 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.86717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.86741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.86486 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.82857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85048 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95275 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89936 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.79955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65054 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43544 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4645 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33424 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.36396 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22057 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19813 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.33295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38107 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32394 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30084 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2765 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28432 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13173 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18768 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18907 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17865 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.1365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.15938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07309 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07622 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07615 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04645 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05421 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02671 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59467 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65054 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60453 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61061 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66617 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69371 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72446 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46241 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47523 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61667 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67505 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57177 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66932 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53032 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48969 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.67932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74412 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57831 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49936 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55852 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49993 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63522 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64317 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68969 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8301 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72576 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74493 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68097 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51023 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74506 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58651 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51063 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6355 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64344 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69013 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74506 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58651 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56628 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51063 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-large/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/multilingual-e5-large/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index 1874293c1471d9fd6407b7fe2d1f12b3fe95b2ae..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-large/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29706 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21214 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55911 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23102 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44164 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46158 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49105 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48975 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27666 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21503 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46213 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52306 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45154 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21213 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46013 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43213 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60871 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43882 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31445 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45847 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29863 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27994 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22545 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47191 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51259 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46347 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21233 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48068 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45033 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4463 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33032 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46077 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.34996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30126 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25997 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5007 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50248 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23811 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50913 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49397 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4782 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36209 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48348 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34137 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36927 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5517 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6286 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56047 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31916 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54241 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55762 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51706 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44915 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51994 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34601 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39634 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55733 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63957 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56723 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33586 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54806 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56794 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51957 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46689 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52316 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34601 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.39634 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55733 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63957 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56723 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33586 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54806 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56794 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51957 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46689 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52316 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.11652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11436 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06325 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20731 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1534 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21352 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.06311 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27294 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20188 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.12703 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1857 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18361 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11493 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31732 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.2868 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33764 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10588 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38581 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33463 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51145 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3057 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19977 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32908 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.21491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20962 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14173 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36484 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35251 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37583 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12846 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42044 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36409 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54684 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34598 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23422 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36422 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.25213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23717 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17306 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41305 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42483 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.17427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40987 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15469 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44794 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39383 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37939 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2646 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39543 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29646 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25588 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21551 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44097 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47733 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43317 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18471 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46236 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41819 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58333 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39719 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29987 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41227 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25656 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22063 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44188 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47992 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43427 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18786 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46303 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42006 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39751 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30327 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41281 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30228 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25656 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22063 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44188 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47992 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43427 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18786 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46303 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42006 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39751 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30327 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41281 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.11652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11436 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06325 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20731 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1534 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21352 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.06311 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27294 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24162 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.38579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20188 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.12703 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23611 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.23448 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21652 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.1504 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36413 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3257 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3898 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44158 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40244 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35744 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2527 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38177 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26964 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21702 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45391 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4292 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20223 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4688 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18582 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51675 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47838 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63463 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44044 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33577 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45038 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43949 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34306 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3188 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56123 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57349 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57317 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2702 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59695 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5873 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53715 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4363 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53339 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8163 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45759 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61957 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69798 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.80255 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.59936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75291 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48934 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70623 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7808 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65081 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68405 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63606 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29706 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21214 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55911 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23102 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44164 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46158 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49105 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48975 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.22632 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21562 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18935 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34696 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46052 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3349 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18707 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28328 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2841 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37445 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32852 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24678 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31849 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.18844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17413 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17101 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28575 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39272 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25729 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16454 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21476 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21441 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.25881 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2101 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24827 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.14306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11971 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13565 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19938 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28384 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16678 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13508 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.14104 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16707 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.14949 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16057 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.05574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.03344 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05656 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05346 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08373 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04531 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04746 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03338 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04189 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04159 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05185 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00211 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.29736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29706 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21214 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47584 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55927 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48448 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23102 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44164 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46158 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49105 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31907 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48975 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.38528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34934 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5538 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64222 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56219 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31006 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50578 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5535 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71753 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5699 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41355 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56688 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36145 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31979 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5683 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.656 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57649 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33034 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5185 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57212 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58325 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43654 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57904 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42181 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36877 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33619 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57605 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66304 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58574 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34498 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52477 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58361 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59001 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45013 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58547 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37263 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34769 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57921 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66683 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59119 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35448 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52774 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58878 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59309 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45774 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58831 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37286 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34845 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57951 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66703 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59146 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35488 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52813 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58898 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59325 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45817 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58845 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.43385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37286 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34845 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57951 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66703 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43592 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59146 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35488 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52813 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58898 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7337 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59325 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45817 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58845 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49599 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49693 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5742 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68203 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6016 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59264 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43201 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53595 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.50505 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56089 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55882 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61421 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44815 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50615 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46549 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57415 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61408 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6663 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65766 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49969 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5133 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59862 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68293 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69918 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70873 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58179 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68897 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63231 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65116 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71977 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63559 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65116 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.797 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71977 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71372 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63559 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35697 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28806 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35061 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.46205 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30768 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43884 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34392 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34822 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.43411 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44869 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53395 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44075 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52731 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48883 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50415 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.617 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48967 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.56337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56784 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39631 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.46017 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53729 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48195 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46932 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58735 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5911 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47924 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54499 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43332 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54528 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54975 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59196 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43332 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44906 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54528 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.17318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14722 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.19792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.27028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.24299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.30971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35697 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.19603 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.30015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22483 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.36316 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.3264 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.41359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53558 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3563 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48513 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51533 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39511 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62249 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42552 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49925 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52428 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63077 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63979 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6246 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62644 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63293 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.486 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71486 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64715 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67686 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74933 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72295 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.78377 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.708 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.73318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79116 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.87586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.88716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.87315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.95046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.89998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87385 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.83575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81645 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43844 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.42723 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33424 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.2075 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.32024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30644 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.29301 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24762 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14297 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.24538 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25976 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.27811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.19776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.14018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10623 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07912 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07215 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04704 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.54655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64706 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.46175 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.41365 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82201 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64236 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72035 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71729 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54736 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50602 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6539 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65456 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75484 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7366 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73248 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5684 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52731 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6625 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8338 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7359 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57933 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57037 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53729 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66717 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72385 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72154 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73909 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58564 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54499 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73917 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58613 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53161 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54528 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66729 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.65223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72415 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73917 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58613 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53161 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54528 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-large/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/multilingual-e5-large/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index 534ef3ec97e35076ad07d103b1c231e7f3906ac1..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-large/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29039 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50265 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54151 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67432 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56532 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43934 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47066 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64145 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49336 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51931 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53017 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28063 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47303 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53074 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.64044 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51858 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38269 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49403 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57822 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47685 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49653 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66701 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28429 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46805 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53526 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63037 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55316 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36859 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51297 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59605 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48343 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49784 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49906 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30331 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49761 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55705 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65771 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.49716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59127 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38627 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53934 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63391 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51177 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52738 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52095 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76419 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33831 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55605 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59173 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70845 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6185 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43284 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56203 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66672 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66247 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53691 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.57747 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54371 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34416 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5629 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59662 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71355 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62334 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43926 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56743 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67119 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53878 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58413 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54678 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76749 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34416 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5629 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59662 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71355 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62334 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43926 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56743 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67119 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53878 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58413 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54678 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10319 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14836 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22604 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17779 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23461 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10993 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27706 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32886 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19535 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19391 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24224 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.46434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17583 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26805 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36107 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35019 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39138 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40814 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45116 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32694 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31861 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35031 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.54778 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20638 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.32697 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41784 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4461 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45008 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23876 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44815 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49872 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37622 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3715 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39281 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61838 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23611 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38611 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47164 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55049 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.36765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49395 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27911 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47804 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53591 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4127 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42165 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42923 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64351 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25229 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41725 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49292 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58681 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30141 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48793 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55084 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42426 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44687 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44143 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2531 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41863 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49367 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58789 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50672 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30263 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48848 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55158 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42449 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44814 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44186 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2531 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41863 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49367 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58789 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40782 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50672 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30263 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48848 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55158 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42449 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44814 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44186 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10319 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14836 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22604 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.17779 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11937 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23461 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10993 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27706 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32886 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.35878 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19535 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19391 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24224 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21663 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31365 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41031 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38956 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27474 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45149 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23328 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.50911 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39386 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37371 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40463 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27536 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41318 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50454 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52279 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56472 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3095 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54889 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60516 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63277 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48164 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47284 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48673 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79881 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.34633 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53879 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60784 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6959 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.50063 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67045 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40063 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6264 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70372 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71532 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57541 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58594 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57216 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.93641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.45155 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.69575 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69979 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.82206 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66767 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.75965 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52568 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70548 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80307 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77605 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.65369 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72541 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.63496 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.95363 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.72257 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.72301 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.84362 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69692 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.78378 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55078 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.737 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82356 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.78562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.66355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.7533 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.64963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29039 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50265 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54151 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67432 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56532 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43934 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47066 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64145 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49336 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51931 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53017 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.50569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22858 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41485 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40892 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57541 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.48257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.41476 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34257 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31588 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3913 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37685 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39592 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35794 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.41366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18567 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35109 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.33321 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50002 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32665 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.28587 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.2978 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27933 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29694 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.32395 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28037 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27159 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12654 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24361 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22367 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.359 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2051 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19352 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14795 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18618 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16769 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18475 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21765 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17914 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06388 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0332 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.06387 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05379 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08613 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04599 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05129 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03358 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04394 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.04176 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05585 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.04112 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03226 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01735 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.03307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02752 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02351 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.0172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02253 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01888 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.02106 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02895 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.02093 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00323 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00173 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00331 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00275 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00439 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00397 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00235 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00172 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00211 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00289 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29039 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50265 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54213 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67463 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56532 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.43934 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47066 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64205 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49336 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5199 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52958 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78102 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35776 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.60067 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62495 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75025 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.67191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65134 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52779 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5428 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71868 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69958 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.59657 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61458 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6114 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79055 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36762 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.61525 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63393 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75817 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66481 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54297 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55012 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72946 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60541 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62881 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62292 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79414 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3733 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62173 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63873 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76215 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69007 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66961 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.54826 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5547 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7342 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61027 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63553 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62671 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37675 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62492 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.64079 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76374 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69226 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67191 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.5513 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5573 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73617 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71564 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61249 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63859 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62816 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79666 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62515 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.641 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76385 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67207 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55146 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55769 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61262 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6388 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62835 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79666 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62515 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.641 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76385 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.69238 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.67207 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.55146 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.55769 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73631 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61262 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6388 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62835 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61321 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63957 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61777 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65966 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57768 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48005 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47601 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57496 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62445 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61802 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6362 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68825 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73814 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66607 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.59814 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51915 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60677 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68831 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7924 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71103 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72102 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72209 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65395 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70686 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59194 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63689 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72924 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73308 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69328 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74002 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74836 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68938 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66154 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66478 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.73439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79463 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69758 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75247 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6967 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66478 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19613 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36562 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25722 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40524 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36566 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38765 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53225 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42045 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54752 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4898 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46247 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58051 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.49009 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55824 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45151 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56539 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56967 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63042 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54939 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60982 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48612 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4947 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57722 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60406 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60238 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71983 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58629 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56668 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51222 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49968 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5824 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56776 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62355 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58268 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60501 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67082 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63173 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64387 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56776 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62355 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58268 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21394 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19613 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.20439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.28857 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26717 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36562 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25722 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24404 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45309 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40626 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42786 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51259 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54108 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58276 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47614 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57114 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46999 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65462 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55111 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68458 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69337 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66728 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60134 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70253 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62159 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57076 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73092 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.77003 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74221 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73998 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71823 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.82963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79599 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.74214 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.85218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.76536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.73195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.68152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.82731 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.89063 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.90805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.88526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.94849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.84134 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89891 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.90831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87574 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.85329 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.95396 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.91716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.82681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.91397 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.93196 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.91266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.96241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.96491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.86295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.91525 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.91945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.89724 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.88922 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.97581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.93967 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.96068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.88877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95984 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53372 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53854 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58604 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61594 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46131 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4543 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45264 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38562 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21821 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46907 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47515 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36488 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.35742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33548 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.36448 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17507 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14618 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30578 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.33402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.32153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.34185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.2372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.22605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.21237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.20324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.1089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06936 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07793 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07386 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04742 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03656 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.0273 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.03535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.04045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03737 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.03899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.02783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02411 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01862 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01418 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00353 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00253 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00251 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00241 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00186 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00142 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80435 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74855 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74725 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76573 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78136 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71585 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69099 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54857 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5178 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54752 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75917 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72808 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78902 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7265 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70977 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56539 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76242 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7593 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7795 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79304 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73203 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.6362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57722 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76868 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7808 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77111 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79441 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73428 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72004 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58241 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76328 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58985 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55385 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64158 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58269 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-large", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-large", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76547 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.76328 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.76894 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78094 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79459 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.73467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58985 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55385 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64158 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58269 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-small/NoReranker/results.json b/AIR-Bench_24.04/multilingual-e5-small/NoReranker/results.json deleted file mode 100644 index 240ec2b73031e0b376a4b2cb26982a5a04c94f20..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-small/NoReranker/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11716 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35626 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45108 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25651 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39432 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35471 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43078 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32337 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.53299 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12332 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25299 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35676 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47619 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4055 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22073 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4161 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49732 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47944 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29931 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39642 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30481 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.53818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12997 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25052 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36376 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46066 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4148 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21457 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43375 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49786 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29987 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31195 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14607 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2727 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38992 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47989 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29319 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44664 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23344 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45703 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52588 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.51462 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32384 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4179 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33485 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.65968 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19513 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34728 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45665 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56996 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5009 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29718 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49601 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56842 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38031 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47931 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38505 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.67098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21039 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36766 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.472 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51623 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31702 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50429 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58086 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39719 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49596 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39857 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68278 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25247 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40978 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49892 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60907 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53893 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35806 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52329 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60338 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5842 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43082 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5223 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43012 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.25582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04514 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08113 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.16289 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13817 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20221 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.06784 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24828 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29958 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14533 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16406 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15594 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.0788 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13606 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.24551 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25521 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30131 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11071 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.34908 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38709 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39402 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.20324 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2542 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.21448 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42779 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09227 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16252 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27755 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.31076 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15966 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.33338 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13162 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.37783 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41215 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22328 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28656 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23708 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47531 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10723 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19075 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31234 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37203 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1918 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.35887 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15493 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.3997 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43554 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.43556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24293 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3199 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.25877 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12454 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21957 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34258 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42078 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38007 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41577 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45214 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26206 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3466 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27666 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12672 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22305 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34519 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42441 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38245 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18197 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41692 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45399 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26465 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34964 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.27879 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51488 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12879 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22591 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34702 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42635 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38389 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18464 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41777 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45537 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.45299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.26674 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35155 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28062 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.25582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.04514 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08113 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.16289 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.13817 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.20221 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.06784 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24828 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29958 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.30731 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.14533 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16406 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15594 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.42405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09951 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16707 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2877 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28958 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34531 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13712 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.40503 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43221 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.44764 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23871 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30239 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26051 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13201 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2217 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3553 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37766 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.21505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4164 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1827 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46808 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4875 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28921 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37153 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31935 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64702 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1815 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30653 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44499 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50909 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50363 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25268 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53526 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5642 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36229 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46545 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39302 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.86628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3276 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51093 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63115 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73681 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54571 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66851 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42496 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.66013 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69552 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69394 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53831 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6367 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54223 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.98542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.64751 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.80859 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.84359 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.91221 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.88307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.86976 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.71352 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.83899 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.88018 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.85991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.80545 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.84631 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.77659 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11716 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35626 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45108 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25651 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39432 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35471 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43078 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32337 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.39703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10124 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21784 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.26642 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4189 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.29643 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19187 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.25216 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32003 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.28894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21799 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30937 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.20484 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.31244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08595 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18421 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21611 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35237 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22689 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22484 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16211 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.19129 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.22847 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.20591 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16696 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2429 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16274 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.06391 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.135 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.15434 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.25496 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.14353 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11906 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.11849 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.14032 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.10988 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.16524 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.11136 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.05938 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02507 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.04827 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.07759 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06229 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04056 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04146 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03157 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03434 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.04908 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03427 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01494 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02666 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02243 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02421 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01676 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02027 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01927 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00365 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0032 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.00469 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00489 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00265 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00334 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00191 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00245 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00259 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00325 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00255 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.61289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11716 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35626 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51369 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34098 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45108 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25651 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39495 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58964 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52287 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35471 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43078 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32337 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.68273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15501 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34463 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43463 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59057 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42716 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52041 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32355 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45899 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6484 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41604 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51307 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39133 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69578 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16542 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36018 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45015 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60374 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53485 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33961 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47066 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6585 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60127 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43025 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52828 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40677 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17274 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37283 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45967 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61319 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45698 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54418 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35122 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4761 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66521 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43973 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53712 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4167 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70583 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17976 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3819 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46601 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61788 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5491 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35925 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48022 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66881 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44613 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54183 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42324 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18069 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3826 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46655 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61818 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46597 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54966 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36007 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48069 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66924 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44683 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54227 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42384 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18163 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38309 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46691 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61836 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54989 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.36062 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48114 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66942 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4472 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54258 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.42429 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.42754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43099 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4654 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53213 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46383 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38838 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48881 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43605 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.4208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45212 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.47531 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39081 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51726 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45768 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51768 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.46643 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.57788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51844 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51549 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43714 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5701 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47732 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49811 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55789 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56328 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65965 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57115 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58112 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59265 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59336 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58857 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67395 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58772 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59856 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53502 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64123 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56074 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5318 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60051 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61144 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60439 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6138 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73665 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60974 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61031 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62071 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56177 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56983 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55679 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60653 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.15754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1305 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.22539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18059 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.26938 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.26236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.34242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.40019 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.33491 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36558 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.27641 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.38859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.31743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.37286 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46452 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3206 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31319 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.37433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.38713 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.37162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39449 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3063 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48099 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34953 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.36821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.46021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41898 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34144 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.3877 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49756 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41384 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39408 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41054 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50126 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4422 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.42846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4419 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37195 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49398 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43466 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3816 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50501 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41707 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.4142 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55932 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43726 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44531 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43122 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44499 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37492 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43643 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50571 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40002 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41623 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56032 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43878 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.43282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44681 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.37683 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43699 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.506 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.15754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.1305 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.24561 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.21012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.22539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.27494 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18059 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.26803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.27621 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.31274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.27942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.29916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.38288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.43778 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.38804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.41796 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.41671 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.31744 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.45973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4634 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.34956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55823 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.36992 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53355 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.49159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.47908 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48824 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38401 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49372 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62651 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58654 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50118 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69831 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.67211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.81402 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79405 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77708 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.86067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88948 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.77519 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80566 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.74823 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.90128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.86457 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.86128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.78078 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.90763 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.9847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.98899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.98146 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.99707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.99728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.98601 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 1.0 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 1.0 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 1.0 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.99907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 1.0 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35934 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.37738 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.40434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44346 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.47917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31186 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.30108 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.29417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32342 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.24131 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.20673 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.28291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18608 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30231 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.35516 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.24056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.23417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.22419 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22404 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.25243 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.18896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.15608 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.21401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.1253 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21329 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.23243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.25136 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.17054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.15239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.14958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.14167 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.1541 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.16162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.12546 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.09555 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.14314 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06387 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07081 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.06911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06802 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05048 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04194 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0477 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0433 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02522 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01815 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00427 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00423 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00276 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00274 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0031 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00237 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00195 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00259 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.001 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.5045 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52367 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.62242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.48459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52688 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44262 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34356 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55877 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57658 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57837 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5719 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59857 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.51184 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58423 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48833 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46452 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57813 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58919 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61272 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70634 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61897 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58884 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61214 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52577 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.468 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45747 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48099 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59047 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59923 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62241 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62318 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53762 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51328 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49756 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60585 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62753 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6037 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62834 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61756 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52116 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50501 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60628 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62761 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71709 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60417 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62866 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54582 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47996 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50571 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "NoReranker", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59618 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60639 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.63388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.60527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62878 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54607 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4903 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48019 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52208 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.506 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-small/bce-reranker-base_v1/results.json b/AIR-Bench_24.04/multilingual-e5-small/bce-reranker-base_v1/results.json deleted file mode 100644 index fb834519c0fe36a8d7f77a23abc4d04c24e5b3b1..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-small/bce-reranker-base_v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30372 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55451 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53594 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56532 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42493 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50662 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72722 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53842 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60547 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5372 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.66561 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28087 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48578 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5215 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.59821 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55364 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51168 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37392 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52148 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.62707 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47027 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53848 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49911 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.67068 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28159 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.47173 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52579 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58568 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51216 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52611 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35827 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53831 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63068 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47154 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53951 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49645 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72058 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29569 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48867 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55178 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60737 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51909 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56192 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37662 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56305 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65881 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63719 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49469 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.56903 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51355 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76198 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.3174 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52161 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58424 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66981 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59437 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41471 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58145 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67961 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51991 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60356 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53265 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76395 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31947 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52283 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58632 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67213 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59663 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41708 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58266 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68061 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52129 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60528 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53315 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76395 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31947 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52283 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58632 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67213 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57317 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59663 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41708 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58266 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68061 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6536 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52129 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60528 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53315 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11319 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16695 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22945 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1702 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23683 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10794 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31419 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37836 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24072 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26048 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.48276 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18278 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28229 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36124 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32622 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37447 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19375 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43869 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4999 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33074 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36395 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36105 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55493 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21283 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33534 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41327 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.40803 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42489 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.23349 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47699 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5388 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37108 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41786 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39775 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62168 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23867 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38474 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46527 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.49468 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39452 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46229 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27333 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50607 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56907 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40113 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46983 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4282 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64647 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25054 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40493 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4864 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53801 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47815 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29318 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51577 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58034 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41336 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49045 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43937 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25089 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40516 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4868 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47854 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29363 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51594 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58052 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41354 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49081 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43948 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64683 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25089 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40516 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4868 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5386 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47854 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29363 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51594 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58052 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41354 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49081 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43948 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11319 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16695 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22945 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1702 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.23683 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10794 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31419 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37836 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.37363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.22 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24072 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26048 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.52908 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21076 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31815 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40993 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36594 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29261 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43056 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22937 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49466 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.54055 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54506 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37718 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40065 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40785 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26337 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.40441 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50009 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48486 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38993 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52807 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3019 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56609 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61132 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61924 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45317 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.49689 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.475 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78959 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32417 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50368 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60453 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6401 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63025 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39362 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.63738 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68848 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68659 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52987 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60808 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54875 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.90497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38303 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58453 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68504 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79017 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.7259 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49186 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69444 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74597 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73283 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6027 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69603 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59688 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30372 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55451 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53594 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63618 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62807 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56532 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42493 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50662 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72722 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53842 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60547 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5372 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.51542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22413 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41505 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39674 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53141 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.51263 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38918 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33426 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32303 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41136 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.3758 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35586 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41711 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34739 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40661 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18057 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34013 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31983 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45707 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.42487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.30146 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27557 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24227 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.29911 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.27365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27302 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33642 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26667 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26514 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11932 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22652 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21716 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32515 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.18817 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18825 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14883 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.17945 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16115 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.16863 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.22549 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16755 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06225 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02931 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05405 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05271 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08309 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04428 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04762 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03327 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.0403 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03911 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05413 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03836 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01494 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02666 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02243 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02421 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01676 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02027 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01927 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00149 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0042 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00224 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73678 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30372 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.55392 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53717 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63633 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62753 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56591 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42659 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50599 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72662 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53842 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60547 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5372 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35175 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.62689 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61534 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71562 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.70384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6447 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51025 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57098 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7835 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71347 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60919 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.67043 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.61209 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.35858 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.63779 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62727 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72622 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71345 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65659 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.52463 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.78919 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72193 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61759 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68338 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62205 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80734 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36303 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63242 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73108 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71725 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6624 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53136 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5814 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79177 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62194 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68851 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62665 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80905 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36503 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64435 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6337 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73259 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71905 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66444 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53398 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.583 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.79268 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6237 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36512 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6444 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63379 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73263 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66452 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53404 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58307 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6238 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69002 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80912 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36512 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6444 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.63379 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73263 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66452 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.53404 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58307 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7927 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6238 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69002 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.62743 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.59474 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6357 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64855 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62281 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62509 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63508 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56588 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47201 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44745 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47117 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61459 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62528 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64404 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.64798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64807 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57597 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49716 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43859 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.51282 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66516 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68702 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62174 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66446 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54641 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54937 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71165 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70642 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71229 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83057 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69547 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72845 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72356 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70969 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56008 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58456 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72701 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62639 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58989 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71477 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70847 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76235 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6987 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73527 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.72701 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66737 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71073 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62639 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58989 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35296 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.39177 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35274 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44073 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51517 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.4866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.51467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41674 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.46047 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44244 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47266 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47257 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51766 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5556 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56255 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47457 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52021 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44207 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.35477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46573 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54748 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69092 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59575 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5953 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52539 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48436 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45744 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39692 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48089 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59116 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58848 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61324 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61343 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54557 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50029 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42458 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48867 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54615 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58544 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48918 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.56927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59152 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63206 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58901 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61359 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54615 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58544 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.50072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48918 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.20756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.18721 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.21131 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.24418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.2951 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.28329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32269 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32101 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35296 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25918 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.32143 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.30663 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45552 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39773 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.42374 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55211 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.49976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55353 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56862 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45961 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5364 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.48902 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.36447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55422 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59502 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55105 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54668 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67447 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66228 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65709 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56491 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66885 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58966 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65462 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71164 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77301 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74974 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68382 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.79627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.75321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.74184 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.86999 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8671 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.90969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.8348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87764 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85846 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.80752 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94419 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90624 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.91024 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.92369 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5183 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55162 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61504 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43989 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.37568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.29141 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.18474 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.44189 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34006 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.32419 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.22454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.16914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.13092 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.2896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.31562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.31598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.30029 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.32989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.21859 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19435 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.18919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15061 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07671 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07742 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04597 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0523 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0453 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04454 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01847 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.64565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71006 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8125 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68169 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68011 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.62022 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.43252 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38576 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.35341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72873 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7643 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.79892 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87138 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76573 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76254 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69126 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67523 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54346 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47774 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50794 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.44244 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74464 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.72862 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77643 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76256 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76927 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7056 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68887 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55803 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50593 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46573 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7602 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77671 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8783 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77984 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76572 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77425 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70976 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69458 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57182 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54041 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48089 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7497 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.77916 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81233 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73477 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78156 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71328 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69805 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52592 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4887 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74983 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77625 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7134 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4892 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bce-reranker-base_v1", - "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74983 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81239 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87887 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73495 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78159 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76752 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.77625 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7134 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69809 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57691 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.4892 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-small/bge-reranker-large/results.json b/AIR-Bench_24.04/multilingual-e5-small/bge-reranker-large/results.json deleted file mode 100644 index 1ded93e577b02742488cfe71405acdc04f8b042e..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-small/bge-reranker-large/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31705 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56511 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58674 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72527 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56063 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51356 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74509 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52744 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63518 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4874 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29044 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51431 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5612 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68107 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57081 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52506 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42807 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52671 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65195 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47277 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58048 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47261 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29483 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.50405 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56331 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6677 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53851 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40953 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54072 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66035 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47904 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58263 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47145 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.78874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30853 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51468 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57972 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68418 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.54039 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57426 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4222 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56384 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.68608 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66171 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50449 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60387 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48957 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81188 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32667 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53717 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60779 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72025 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60349 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44824 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58231 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6969 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5232 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62689 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51215 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32855 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5385 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60888 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7219 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60453 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44972 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58404 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69746 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52393 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62832 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.81273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32855 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5385 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60888 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.7219 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.58503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60453 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44972 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58404 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69746 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67448 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52393 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.62832 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.51273 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12449 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16795 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2497 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19638 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2411 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12667 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31754 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21416 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2443 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23314 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.54696 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19253 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29855 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3889 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38293 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38832 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22841 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44579 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.51914 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53674 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.32911 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39042 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33818 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63726 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2252 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36242 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.44882 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48447 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44005 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27638 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48252 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56619 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57215 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37576 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45473 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37658 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70577 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25329 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4135 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.50079 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.58593 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47987 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31801 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51073 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.59864 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59282 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41013 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50659 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40822 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72084 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26359 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42812 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51925 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61428 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44552 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49373 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33312 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52079 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60519 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5986 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41929 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52198 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41958 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26386 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42837 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51948 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6147 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49393 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33341 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.521 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60528 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41939 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52232 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41969 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.72098 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26386 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42837 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51948 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6147 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.44614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49393 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33341 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.521 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60528 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59876 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41939 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.52232 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.41969 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12449 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.16795 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2497 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.19638 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13299 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2411 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12667 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.31754 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38385 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.39491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.21416 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2443 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23314 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.58738 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21772 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33875 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4328 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41549 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30551 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44481 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26497 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49566 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56636 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5826 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37777 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43568 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38497 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.71968 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27377 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.43642 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5236 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54983 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.41334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54073 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34463 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56532 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64813 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6474 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46603 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54093 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45589 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.84557 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33267 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52914 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61756 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.70754 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53699 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6441 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42915 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6345 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71949 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55104 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64048 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53296 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38282 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58375 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68941 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79274 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73171 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4952 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69097 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74791 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60596 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.6973 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59643 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31705 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56511 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58674 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72527 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56063 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51356 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74509 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52744 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63518 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4874 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.5692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2295 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44588 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42689 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.606 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53237 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40129 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.38319 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.32766 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43597 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.40359 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36299 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46128 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.339 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.4554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18956 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.37136 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34734 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52268 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31037 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3138 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.24303 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3215 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.28813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28585 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37386 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.26303 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2875 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12543 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23954 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.228 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.36373 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19385 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2051 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14826 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.19023 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.16387 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17701 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24023 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.16696 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06252 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02946 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05404 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.053 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08334 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04457 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04794 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03325 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04041 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03517 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03924 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05418 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03835 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01494 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02666 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02243 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02421 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01676 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02027 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01927 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00149 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0042 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00224 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80396 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31705 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56511 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58674 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72543 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56063 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48643 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51356 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74509 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.52744 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63518 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4874 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85251 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.36258 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64899 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.65324 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78515 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71603 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64167 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.57211 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56982 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80137 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73644 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60216 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70826 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56327 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37052 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.6578 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66192 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79187 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65353 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.583 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.57664 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80655 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74301 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61316 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71539 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57589 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85892 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37398 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66121 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66569 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79486 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65949 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58738 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58047 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80818 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61772 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71904 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58212 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85978 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37573 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66214 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6673 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79566 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72954 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66173 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58866 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58213 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80858 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61903 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71965 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58418 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85981 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37582 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66217 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66733 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79569 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66175 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58869 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58226 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80859 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61907 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71968 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58419 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85981 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37582 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66217 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.66733 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79569 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.66175 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58869 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58226 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.80859 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.74635 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.61907 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71968 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58419 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.6463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66812 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.76693 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63863 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66267 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54042 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6012 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54095 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60561 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62582 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63425 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66718 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69449 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60046 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67257 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67263 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55745 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60096 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55431 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63308 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.67109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.68655 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69733 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.75062 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80066 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64792 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71031 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60492 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65257 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59946 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65157 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73319 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68736 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75183 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74527 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65055 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68421 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62948 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64422 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6762 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68013 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71997 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73487 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.73536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78989 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84187 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69069 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75272 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74118 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7467 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.65361 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73225 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.68662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.63574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.68013 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37661 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25006 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4034 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41809 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47774 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.52875 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4407 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52271 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51279 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.54252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.39554 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.50107 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45858 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57363 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.49314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.48284 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.62095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5047 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57176 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58924 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45521 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55952 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48965 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47627 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58849 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.56613 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.60014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65165 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62217 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.50316 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60363 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51434 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51837 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59119 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60966 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62554 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73398 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63991 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5256 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61975 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57911 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53509 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60184 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67647 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64017 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52609 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60219 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59167 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60988 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62586 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67647 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.64309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64017 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.52609 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62002 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52484 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53568 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60219 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21109 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.22132 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25867 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30679 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.27544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.3464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.37661 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25006 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.33706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.34763 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.33185 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.25813 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4557 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.42691 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45523 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.57027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57266 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44393 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48874 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.6988 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59432 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55565 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59401 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.64941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.59406 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68305 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6779 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55599 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69923 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.67683 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.66815 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58391 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.76707 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7404 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.74393 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74043 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84558 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71962 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76567 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67867 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.82537 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.79701 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.78783 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.82329 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.87322 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.86971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94351 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89132 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87502 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86802 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.8139 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94072 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91033 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.81473 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.52794 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57057 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5789 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58112 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44444 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.44803 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41712 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4036 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.32822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26311 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23293 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47508 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49053 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.35536 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33118 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.33497 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25706 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.30364 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15341 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29075 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31563 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33342 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.19812 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.21694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.16104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11602 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.19132 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08233 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0685 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07742 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0763 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04835 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.0464 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.0524 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03632 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65607 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70571 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76401 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8288 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70028 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71237 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58197 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60541 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54622 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74037 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77077 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78008 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82055 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6994 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77981 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.77264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66712 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69234 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.62526 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53709 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63866 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57363 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75207 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.77813 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.78703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88659 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70997 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.78939 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78385 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79489 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68051 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70396 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64167 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.55579 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58849 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7558 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7905 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88789 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71653 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79267 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78631 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.68848 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71068 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64845 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56886 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.65802 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5963 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75788 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7856 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79467 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80103 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69097 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71449 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60185 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80103 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69105 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60219 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-large", - "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-large", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75792 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78573 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.79191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.88833 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71846 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7947 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78805 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.80103 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69105 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71459 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.65258 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.66089 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60219 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-small/bge-reranker-v2-m3/results.json b/AIR-Bench_24.04/multilingual-e5-small/bge-reranker-v2-m3/results.json deleted file mode 100644 index 430c5f04fb414ed5a6fd0164f165a3cc1ececd9a..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-small/bge-reranker-v2-m3/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33315 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58456 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61338 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73334 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60457 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49695 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5388 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55344 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65716 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59754 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.7254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30064 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51853 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58321 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68094 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.56304 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56069 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.42304 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5495 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66878 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66349 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48878 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59698 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54054 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73179 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29968 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.49781 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57858 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66245 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56946 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.399 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.56469 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67432 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66735 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.488 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.58987 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5336 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77559 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31221 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51213 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.59343 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67453 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.52946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59934 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41336 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58484 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.69518 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.51167 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60982 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54415 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80392 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33322 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53894 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62132 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.71956 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57784 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62696 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4452 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6012 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70744 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69274 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53357 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63552 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55909 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33464 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53958 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62278 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72088 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62784 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44655 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6017 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70806 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53415 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63636 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55948 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.80476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33464 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.53958 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62278 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.72088 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.57999 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62784 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44655 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6017 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.70806 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69326 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53415 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.63636 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55948 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13271 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17642 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27038 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20325 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26663 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12953 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33593 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40341 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.233 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25668 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29086 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.53833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.20285 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3048 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.41412 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38711 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42354 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22805 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46984 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5379 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.3477 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4072 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39804 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62209 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23202 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36033 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46903 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48266 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34035 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47277 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27118 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50809 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.58342 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59723 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38836 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.46679 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.43658 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.6899 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25822 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.41246 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51781 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.57513 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50794 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31165 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53417 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.6115 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41918 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.51632 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46527 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70808 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26981 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4294 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53684 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60964 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43762 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52232 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32959 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54328 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61898 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62235 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.43021 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53332 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47474 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27001 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42954 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53712 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61001 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52249 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32983 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54334 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61908 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4303 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53351 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47481 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70823 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27001 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42954 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53712 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61001 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.4381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52249 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32983 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54334 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.61908 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4303 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.53351 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47481 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.33306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.13271 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.17642 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.27038 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.20325 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1327 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26663 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12953 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33593 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.40341 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.42174 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.233 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25668 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.29086 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.57662 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22646 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33746 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45172 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41817 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.30284 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4765 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25928 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51718 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57422 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.393 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.44794 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4358 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70074 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.27424 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42309 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53156 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.54384 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40344 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56736 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32966 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58724 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.65431 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.65607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.46782 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5399 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50029 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.83194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32916 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.52111 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61974 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.69005 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.65544 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.41534 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.64787 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71548 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69984 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54524 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.636 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91035 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38537 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58688 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68758 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79433 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.7324 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49526 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.69801 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.74758 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60683 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.69963 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.597 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33315 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58456 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61338 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73334 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6334 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60457 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49695 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5388 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55344 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65716 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59754 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.55984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23228 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44667 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43722 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.60009 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42121 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.3723 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.33838 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44312 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.41575 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36665 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4694 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37454 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44185 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18545 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.35887 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3461 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50986 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.43522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.31787 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29972 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2511 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32376 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.29276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27926 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37089 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.28412 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28144 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.12154 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23542 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.22509 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.35115 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.29589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19397 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19873 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.15047 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.18851 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1645 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.17273 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23803 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.17335 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06251 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02954 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05423 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.0529 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08342 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04462 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04802 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03343 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.04041 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03528 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03927 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05439 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03842 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01494 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02666 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02243 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02421 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01676 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02027 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01927 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00149 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0042 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00224 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.79956 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33315 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58456 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61338 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73334 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.63287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60457 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.49751 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5388 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.77904 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72901 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55344 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.65657 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59754 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.8438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37636 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.64938 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6741 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.789 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.70864 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.68151 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.56944 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59443 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82063 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7707 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.62305 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.71905 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.65573 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.84828 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38217 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.65854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68138 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79516 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.71732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69129 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.57933 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60143 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82593 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63172 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.72696 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.6632 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38598 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66308 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68509 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79802 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69531 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58486 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.6043 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82711 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77727 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63585 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73076 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66605 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85246 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38786 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66465 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.6862 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79907 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72358 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69695 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58697 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60558 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82731 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63748 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66678 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38796 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66467 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68626 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79908 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69697 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58701 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60562 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63752 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73151 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66679 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.85249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38796 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.66467 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68626 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79908 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.72362 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.69697 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.58701 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60562 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.82734 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.77822 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.63752 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.73151 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.66679 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75269 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60109 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71562 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78943 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.61877 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6693 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.6446 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.68934 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5698 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51787 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58518 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61986 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68295 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66214 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69264 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.72287 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.68907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69919 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58694 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.61481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57206 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.60472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65477 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.70865 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.76514 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81675 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73995 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70976 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73709 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63212 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7223 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.67928 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80462 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85657 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70605 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76439 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74224 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76344 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.6717 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75093 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69544 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67597 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69643 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76535 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75377 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69905 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75991 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75219 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.85744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.76535 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.67333 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75377 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.64588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67863 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.69905 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23843 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25819 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.46426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45374 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50515 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53574 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51827 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56515 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42392 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52954 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.47108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58969 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55373 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51059 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.54664 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64393 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53443 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57144 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61573 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.4844 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.58669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53668 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50472 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.52053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60917 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60688 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62637 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67285 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72771 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58232 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61403 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53305 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57301 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61918 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63463 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65332 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75512 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60199 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63024 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66337 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55282 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62343 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55307 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62366 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63484 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.65349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75534 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.60268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6637 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55307 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64669 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58598 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53614 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57176 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62366 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.21906 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.23843 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26769 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3195 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.29356 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35133 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.34626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.39323 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25819 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35438 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.35315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.34743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29899 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.51454 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45024 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48736 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54083 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.58427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51481 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.616 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60728 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53149 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.70683 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64476 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.61725 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68079 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.70554 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62219 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70651 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.67471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70044 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.58978 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72667 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.69633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.69733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79116 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7783 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7609 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74818 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.84645 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.82459 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.7032 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.84571 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.81393 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.80242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.71261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.86747 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88193 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87313 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.83652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94591 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83898 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.86532 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81968 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.93626 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.91953 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.92161 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.8236 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75269 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60109 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5896 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58759 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64402 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.46429 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45378 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.46685 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43716 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.41712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.33129 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.26113 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.23561 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47283 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49429 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49349 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.51196 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.35718 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.33894 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.34409 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34699 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.19703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.15823 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33784 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32456 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.31298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.33505 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.22768 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.21008 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20403 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.22268 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.19892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15951 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.11662 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08675 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06884 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05405 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04958 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04852 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04629 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05284 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.0365 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02724 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04471 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72254 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71471 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.7574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77876 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72113 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71148 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75269 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.60109 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43917 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61345 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49398 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.7948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.78428 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.83677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.9067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73016 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.80329 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78478 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82079 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.69763 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72477 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.64315 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54797 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.69094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58969 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.81785 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84518 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.90861 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.73849 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81258 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.78968 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.82697 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70719 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.73545 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66309 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57082 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60917 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.79866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84646 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91004 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81501 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.83023 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71104 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7406 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.66904 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70487 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.61918 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.8001 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82106 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84795 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74423 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.83076 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71314 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7427 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58582 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.708 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62343 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84795 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8308 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62366 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "bge-reranker-v2-m3", - "reranking_model_link": null, - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.80948 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.80016 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.84795 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.91067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.74433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.81533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.79548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.8308 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71325 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.74278 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.6713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.586 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.70817 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62366 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-small/jina-reranker-v1-tiny-en/results.json b/AIR-Bench_24.04/multilingual-e5-small/jina-reranker-v1-tiny-en/results.json deleted file mode 100644 index 0acbdbf5acba67b0f5c3cfee41374d6a37c28748..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-small/jina-reranker-v1-tiny-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24597 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47955 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55578 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50088 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16898 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42839 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31864 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45465 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17575 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23013 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15089 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4793 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52017 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4641 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14745 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45779 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32005 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41113 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25453 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45664 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.18817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23279 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15901 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48885 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50989 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.14438 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47916 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1499 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47732 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.33332 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59722 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41364 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26401 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45557 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.22857 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24982 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18491 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51447 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53315 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.16543 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.51433 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17307 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50465 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37444 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62028 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44153 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29463 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.47567 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.35558 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28462 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26881 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55662 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61481 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28222 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55967 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2495 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53282 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43892 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64052 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47957 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3802 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50295 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28813 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30186 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55954 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62271 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56386 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2737 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5362 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45632 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48124 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40684 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50407 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40381 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28813 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30186 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55954 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62271 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.32544 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56386 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2737 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5362 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.45632 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64221 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48124 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40684 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50407 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09614 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04674 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15152 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21874 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04718 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26226 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16604 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18995 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11348 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23357 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.10725 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15106 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.08191 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32931 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.284 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.05881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34529 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.07437 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38258 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.24238 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.48889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.28535 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.17097 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.32809 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.12672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17367 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10013 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38031 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3505 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07347 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.38849 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.08995 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.41733 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.26283 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52187 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31899 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19227 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.35989 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.15104 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19506 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12118 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.42872 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42236 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.09225 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42189 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.10944 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44436 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.28654 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34768 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21634 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38965 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1911 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21148 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14842 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45346 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47011 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13003 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44129 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13484 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45742 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.30759 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36423 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24705 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40353 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21211 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15402 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45405 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47201 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.442 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45778 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31026 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36449 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40371 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19964 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21211 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15402 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45405 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.47201 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1388 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.442 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.13881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45778 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31026 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36449 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25191 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40371 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.09614 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04674 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20651 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15152 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0315 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.21874 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04718 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.26226 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16604 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18995 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11348 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23357 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.14768 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17998 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10758 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.38318 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32221 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.39717 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09291 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44276 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31087 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33821 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21043 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.38246 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22147 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15367 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47148 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42598 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11823 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.4841 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1306 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51769 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.36576 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60705 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.40649 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.26474 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44434 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30649 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28087 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.22767 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57298 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56867 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19074 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58114 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.20083 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.59496 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.46861 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66864 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49024 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35256 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.52042 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.70886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37724 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46444 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.68246 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.77026 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.49696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.7177 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.4098 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68157 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.67545 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72833 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60181 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.59638 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59378 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24597 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47955 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55578 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15688 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50088 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16898 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42839 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31864 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45465 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.25431 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.14134 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17971 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13082 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36266 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45793 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.13376 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.34739 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12687 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28623 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.21501 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36209 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30926 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.18974 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3183 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.12291 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14603 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.11797 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.29975 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.39196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12433 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.26971 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11468 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21565 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.16117 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26034 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.23847 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.15781 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.24429 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.09692 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10078 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.0957 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20551 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28289 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.17083 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09258 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13508 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.11066 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.1535 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.15355 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11777 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.15776 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.04826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02883 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.0424 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05237 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08096 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.0565 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.0437 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.03977 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03292 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03549 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03899 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.04576 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03821 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01494 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02666 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02243 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02421 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01676 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02027 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01927 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00149 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0042 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00224 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17676 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24542 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14555 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47893 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55578 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15742 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50146 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.16898 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42839 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.31864 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.6242 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45465 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.2549 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.24872 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29428 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21008 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56671 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.6366 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22421 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58172 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22004 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49968 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41175 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69157 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53534 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.33007 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5618 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26694 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30178 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.2274 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57935 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65034 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24806 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59531 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2386 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51013 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.42685 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.54727 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35152 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57314 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28542 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30915 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24265 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5863 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65823 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26658 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60291 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.2544 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51545 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44159 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55374 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.36715 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57862 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30176 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31249 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25526 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58874 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66131 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28217 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60676 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26553 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51801 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44997 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55703 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37703 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58051 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30291 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31262 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25651 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58883 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66144 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60689 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26654 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51826 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4506 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55712 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37776 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.30291 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31262 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.25651 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58883 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66144 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28293 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.60689 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26654 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51826 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4506 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70594 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55712 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37776 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58056 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6586 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49079 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.53012 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.67529 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53921 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.59557 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.59602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42249 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54084 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45358 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43504 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50234 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.52004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.54166 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.66906 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54779 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.58871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60471 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43599 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.57751 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49196 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49111 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45155 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52688 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.51903 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55672 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59179 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71051 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5912 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65034 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63297 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65193 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48712 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6267 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54682 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53173 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.55564 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6161 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60905 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78025 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64553 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68788 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.69708 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56305 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68048 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59743 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.57128 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55814 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60016 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62546 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64151 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56905 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60408 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62546 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62201 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.64151 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68268 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65336 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7038 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69116 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70313 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56905 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68429 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60435 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58147 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56894 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60408 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14968 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35717 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18741 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.29927 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28377 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3581 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.40677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.46761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.4595 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.49123 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30039 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4384 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.38547 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.33554 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47323 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35833 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33532 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.4193 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.5339 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.51214 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5036 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5255 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34231 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48994 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41985 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.37189 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48668 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.40411 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.44921 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.48185 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60348 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50322 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55177 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38655 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.53094 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45362 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.44231 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40718 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45815 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.44982 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49191 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6464 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52741 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57506 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.56312 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58134 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41824 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55229 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4712 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45437 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43135 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45247 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58236 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41927 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.509 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4598 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45247 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.49352 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.52589 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.64704 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52886 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.57555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5638 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58236 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41927 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5529 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45556 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.43297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.509 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.16541 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14968 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.17325 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.19761 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26731 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.25871 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.2963 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35717 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18741 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28272 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.26368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.2777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2163 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34192 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32302 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.35535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49813 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.4535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.53919 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50902 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53618 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.3559 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47102 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49827 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58635 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4543 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45704 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50927 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.54396 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.6191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.60655 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63806 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.62092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.64659 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.6112 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57611 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6027 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.65283 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.75564 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72935 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70389 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71374 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56798 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.75003 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70851 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.73244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.73494 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.84296 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.82482 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.8014 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.8824 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.93798 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.81671 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.8856 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.84692 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.80057 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.93059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.88839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.88106 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.78304 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52853 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5858 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59292 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6586 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40366 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43243 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.45562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45821 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.55163 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.3998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.40056 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.3871 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32605 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.36126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.27812 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.22156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.31839 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.19545 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.3341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34835 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.37751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.44674 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.29748 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.28172 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.2623 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.28162 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21166 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17211 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.24146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.12932 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.23526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25315 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.26509 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.25369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.18487 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.17957 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18005 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10445 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.1577 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07349 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06671 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.0726 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.06985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07582 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04768 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04522 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05158 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02611 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04291 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.5289 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59172 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.59587 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73913 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5744 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.63866 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.66398 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.45082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54054 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42331 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.35015 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46779 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.38153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.60549 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60961 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66124 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80888 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64831 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72207 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73118 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53825 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.64279 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51943 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4634 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54202 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.47323 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62312 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.62297 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69017 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.81839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66052 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.72812 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71583 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74274 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65914 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53921 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55294 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.48688 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63479 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63434 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67893 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.66676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73418 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74831 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66389 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56256 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.49886 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63984 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63943 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.68222 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.7014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6708 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75107 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57065 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66896 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55754 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50819 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50887 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64007 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63969 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75125 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57092 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50922 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-tiny-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-tiny-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64007 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63969 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73756 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.75125 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57092 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.66909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55781 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.5088 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5696 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50922 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-small/jina-reranker-v1-turbo-en/results.json b/AIR-Bench_24.04/multilingual-e5-small/jina-reranker-v1-turbo-en/results.json deleted file mode 100644 index b1ead70cdc2b0e8e5c6ac624c503085e3a78c3fa..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-small/jina-reranker-v1-turbo-en/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19328 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55768 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47979 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21607 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44227 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44669 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48238 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29234 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46749 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26462 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2488 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19427 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45603 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.51922 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.24114 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.44226 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19986 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45953 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.41803 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.59134 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42358 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29642 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44321 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27526 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25028 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19854 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46451 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.50659 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.23282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.45656 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.19706 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.48061 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.43518 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.604 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.42699 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31002 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.44085 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.32208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26603 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.23103 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.49204 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.52823 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.25482 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.49419 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22127 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50484 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.47467 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62694 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45479 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.34115 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46129 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.44123 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.297 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31681 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54046 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61321 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.36384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54392 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29516 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53632 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52563 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64681 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.4897 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4224 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49175 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47359 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29955 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33635 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54417 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62128 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54906 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30894 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53447 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49143 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43818 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49382 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.47359 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29955 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.33635 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54417 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62128 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38931 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54906 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30894 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53447 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.64835 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49143 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43818 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49382 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1085 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10217 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05794 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20276 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15382 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.05619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2104 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05872 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2742 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23793 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.377 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19722 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11714 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22765 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.17096 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.16253 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.10413 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.31219 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.28513 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.10273 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32939 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.09973 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.38578 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3247 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.49574 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.29325 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.18705 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.31751 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.19807 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.18656 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12527 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.35769 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34889 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12746 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.36881 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11886 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.42175 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.35231 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.52925 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.33012 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.21864 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.34822 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.23084 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.2099 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.15388 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.40507 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.41825 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.15732 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.40289 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.14352 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44712 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.37874 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.55175 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36003 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.24746 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37639 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27382 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22521 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18597 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43225 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.4674 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19949 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42344 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17068 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46137 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.39821 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56101 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37609 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28002 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39116 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22558 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18937 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43292 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46935 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17308 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46176 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3998 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37635 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28307 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3915 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.2798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.22558 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18937 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.43292 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.46935 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.20485 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42435 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17308 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46176 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.3998 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.56126 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.37635 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.28307 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3915 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1085 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10217 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.05794 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.20276 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.15382 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.05619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.2104 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.05872 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.2742 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.23793 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.377 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.19722 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.11714 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22765 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.21562 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19103 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.13721 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.36073 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.32276 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.12879 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37987 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.12745 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44004 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38781 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54108 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34064 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23865 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36957 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.28188 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23691 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.18601 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.4461 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.42165 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.18457 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46335 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17047 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51596 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.4613 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60977 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.41448 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.3139 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.4298 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40703 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29582 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28118 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55185 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5598 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.27843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56444 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25029 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.58499 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56039 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67125 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.50111 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.41349 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50675 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77527 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.38108 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.51473 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67827 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.76987 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.55829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71447 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.44905 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68399 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71442 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72909 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60123 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.64164 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59016 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19328 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55768 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47979 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21607 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44227 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44669 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48238 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29234 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46749 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.20888 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.19582 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.1701 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.34283 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.45587 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22323 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.32826 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17599 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.28286 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.27318 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36325 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.31754 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.23252 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.30834 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.1739 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.15825 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14873 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.28154 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.38687 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.19669 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.25436 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.15169 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.21577 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.20524 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26161 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.24806 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.19774 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.23503 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.13133 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.10744 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.12074 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.19603 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.27838 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.1532 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.16485 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.11657 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.13344 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.13413 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15414 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.15817 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.14106 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1519 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.05348 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02915 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.04755 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05223 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08085 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.06372 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04341 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.04361 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03293 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03777 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03501 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03899 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.04927 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03793 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01494 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02666 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02243 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02421 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01676 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02027 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01927 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00149 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0042 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00224 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27368 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.26707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.19328 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.46406 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.55768 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26841 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.47979 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21662 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.44227 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44669 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63868 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.48238 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.29293 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46749 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.35407 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31649 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.26675 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.54585 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63686 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3521 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.55302 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29086 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.50421 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.53514 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.70218 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.55507 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.39018 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.54569 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.37236 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.32468 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28507 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.55963 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65023 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.3759 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56857 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.30867 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.51591 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.55292 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71136 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56695 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4113 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.55671 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.38929 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33001 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.30253 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56693 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.65755 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.39381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.57625 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.32267 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52125 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56507 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71514 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57325 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42498 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56318 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40189 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33283 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31276 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.56996 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66101 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.5813 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33234 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52417 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56948 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.7165 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57648 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43239 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56561 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33297 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31361 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57011 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66114 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58145 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33284 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52435 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56967 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57656 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43275 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56571 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40273 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.33297 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.31361 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57011 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66114 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.40383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.58145 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.33284 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52435 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56967 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.71655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57656 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.43275 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.56571 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48797 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.49026 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55399 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.52041 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60666 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.577 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58824 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.42183 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52922 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45892 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45298 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.4382 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53499 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.4996 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.47499 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55335 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68209 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53448 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.59915 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.61275 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43213 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56633 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49156 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50059 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57146 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.54986 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52145 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.58491 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.60996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.72471 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57511 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66061 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.65421 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.48281 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62746 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54828 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51049 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.59711 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62937 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61485 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.66048 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68579 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71091 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.69739 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70064 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55822 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.67736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60112 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.58461 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56867 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62997 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70502 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56675 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57789 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63266 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.63821 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6651 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.79109 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.63941 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.71384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.70012 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.70502 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56675 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68144 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60748 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.59227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57789 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63266 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1939 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35652 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30671 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.28317 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.34708 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.36542 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.46352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.38729 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.47817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.45938 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.48665 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.30058 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.43197 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.38736 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.40245 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3408 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50335 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.37314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.34211 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.41255 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.42661 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.54616 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.44264 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.52289 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.50647 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.5317 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.341 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.48169 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.42104 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.43467 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38343 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52363 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.43364 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41158 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47589 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.49757 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.61668 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55996 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5497 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.56422 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.38417 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52796 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4578 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.45588 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.42053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53402 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47239 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.51901 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.53683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.65626 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5107 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.58413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.57021 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58544 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41543 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5488 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47652 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.4687 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44444 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54154 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41682 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54181 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47421 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45886 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.5199 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.5383 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6568 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.51208 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5707 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58611 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41682 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.54931 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47734 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46956 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.44561 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54181 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.1747 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.14412 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1939 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.20139 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.26874 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23555 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.31727 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.35652 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.18986 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.29213 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.25583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.29031 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.22063 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.35258 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.32481 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.40998 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43436 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.54613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.51468 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.52908 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.35144 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.51219 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.47992 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51385 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.39299 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.62651 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.47581 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.41757 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48769 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.51677 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.63218 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.53535 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.62817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.62501 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.43436 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.62302 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.56713 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61573 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.48937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.71486 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62341 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.57536 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.62166 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67599 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.77352 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73379 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73427 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7167 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.76832 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.70503 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72379 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.59945 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.79518 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.84741 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.83952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82041 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.88839 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.93832 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.80923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.88419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87197 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85342 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.78851 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.92676 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.89039 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.89491 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.79027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93976 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.41137 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.43143 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.48422 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47099 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.56522 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.39683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.43286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.39776 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.38082 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.32605 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.35045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28425 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23046 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.3212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.20884 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.34798 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35495 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.39408 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.37286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.45652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.31667 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.31493 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.30252 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.2914 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.25847 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.27405 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.21227 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17329 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.2521 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14297 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.24017 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.25766 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.26805 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.26254 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.30054 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.20357 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.19549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.1944 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.18145 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.17732 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.17919 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.13926 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10445 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.16415 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.07952 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06665 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.0752 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07379 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07027 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07598 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05298 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04896 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04801 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04575 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.04481 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03558 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02647 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.0188 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.55202 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63018 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.61652 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.74728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.56548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.66479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65546 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64516 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44536 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.52703 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.41411 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.36499 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45938 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.40562 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62958 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60961 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.69576 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.69715 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82065 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.62847 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.74695 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.72549 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71505 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.53552 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63018 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52045 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48368 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.54062 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.50335 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.64952 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.61817 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70641 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.70836 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82799 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64127 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75286 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73697 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73293 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.55246 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.6464 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.53717 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.50534 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55784 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.52363 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.65772 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63194 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71308 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71445 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.64926 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.75955 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74381 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73653 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5625 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65512 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54905 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51715 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.56426 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.53402 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66227 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71529 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71842 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83311 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65307 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74627 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73975 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56971 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65889 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55631 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52327 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57035 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54154 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73987 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56998 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54181 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "jina-reranker-v1-turbo-en", - "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66244 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.63781 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71535 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.71854 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83316 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.65361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76181 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.74633 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.73987 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.56998 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.65913 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.55658 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.52373 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.57092 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54181 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/multilingual-e5-small/mmarco-mMiniLMv2-L12-H384-v1/results.json b/AIR-Bench_24.04/multilingual-e5-small/mmarco-mMiniLMv2-L12-H384-v1/results.json deleted file mode 100644 index 7170fc55aa2d003a6d9f254f2a7cae09346323eb..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/multilingual-e5-small/mmarco-mMiniLMv2-L12-H384-v1/results.json +++ /dev/null @@ -1,6932 +0,0 @@ -[ - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48379 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66482 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54189 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4612 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64145 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47545 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4997 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49033 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.63148 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23414 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44051 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.51394 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.62663 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.49426 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.50893 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35671 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47941 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.56919 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.57441 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44348 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47511 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46467 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.64518 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.24088 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.42827 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5169 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.61629 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.46295 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.52884 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.34485 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.49893 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57825 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.58954 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.45023 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.47841 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.46634 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69624 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.25448 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.44601 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.53829 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.63956 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47068 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.56492 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.35864 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52421 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.60961 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.61103 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47727 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.50278 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.48501 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.73866 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28237 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48642 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57261 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68587 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53149 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59009 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.39861 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54609 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63411 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.62991 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.49955 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.54977 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.5067 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74186 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4901 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57599 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68906 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59354 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5495 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63743 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63193 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5008 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55482 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50794 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.74186 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28707 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.4901 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.57599 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.68906 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.53815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.59354 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.5495 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.63743 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.63193 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.5008 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.55482 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.50794 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08346 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2156 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1758 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22296 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27222 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32801 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18273 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.18908 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22701 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.45004 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.14316 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.24794 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.3473 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.3418 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.22724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.37088 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.18295 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.39655 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.44375 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.47179 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.30085 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.30659 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.3257 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.52819 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17217 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.29701 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39999 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.43441 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.28593 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.42726 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.22309 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.43578 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.48428 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.50907 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.34614 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35612 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.36514 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.59674 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1973 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.34307 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.45321 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.53381 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.34409 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.46926 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.25853 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46538 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.51625 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.38074 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.40116 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.39734 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62067 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21044 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36456 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47405 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56715 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37794 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48067 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27744 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47531 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.52729 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.5403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39076 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42511 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40823 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21116 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36524 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47459 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56785 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48121 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27835 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47568 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5278 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39094 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42607 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40844 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62115 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.21116 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36524 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.47459 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56785 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.37936 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.48121 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.27835 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.47568 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.5278 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.54058 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.39094 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.42607 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.40844 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.27962 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.08346 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.14315 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.2156 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.1758 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.11414 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.22296 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.1011 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.27222 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.32801 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.34465 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.18273 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.18908 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.22701 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.49783 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.17553 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.28616 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39717 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.37892 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26306 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.43016 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.21753 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.45469 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.49745 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.53064 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.36007 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.35875 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.37966 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.62574 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23326 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.36931 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.48481 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.5088 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.35826 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.53769 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.29167 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53275 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.57708 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60655 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.44558 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.45099 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.45359 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77569 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.28962 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.46877 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.58687 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.67207 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.47354 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.63933 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.37294 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.60638 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.66147 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.66801 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.53335 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5536 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.53202 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.89824 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.37152 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5751 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.67817 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.78595 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.62301 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.71977 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.47975 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.68101 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.73477 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.72607 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.6034 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.68149 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59314 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.91442 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.39219 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58917 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.69414 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.79896 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.64853 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.73622 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50099 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.70071 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7504 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.73595 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.60959 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.70294 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59865 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48379 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.5254 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66482 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54189 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.4612 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64145 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47545 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4997 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49033 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.49358 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1936 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.38224 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.39798 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.56148 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.45945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3966 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.31985 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.30768 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.38217 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.36653 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.35163 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.37988 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.33353 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.40187 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.1628 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.3155 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.32342 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.48786 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.38815 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.3147 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.26881 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.23483 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.28326 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.26891 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.27926 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.31147 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.2621 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.26465 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.11011 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.21273 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.21778 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.34839 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.26745 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.19754 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.17994 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.14524 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.17362 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.15646 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.1747 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.20636 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.1662 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.06205 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.02858 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.0532 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.05245 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.08287 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.07141 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.04407 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.0467 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.03297 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.03975 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.03497 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.03913 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.05314 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.03821 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.03135 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.01494 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.02722 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.02666 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.04196 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.03687 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.02243 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.02421 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.01676 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.02027 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.01771 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.0197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.02734 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.01927 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.00314 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.00149 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.00272 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.00267 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.0042 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.00369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.00224 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.00242 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.00168 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.00203 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.00177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.00197 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.00273 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.00193 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.69438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.23876 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.48379 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.52602 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.66482 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.5539 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.54189 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.40388 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.46057 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.64205 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.60336 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.47545 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.4997 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.49033 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.75716 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.29817 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.56855 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.60698 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.73825 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.6479 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.62781 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.48809 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.52734 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.71372 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.67989 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.56384 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.5922 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.57499 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.76737 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.30825 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.58216 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.61727 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.74691 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66145 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64157 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.50548 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53564 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72224 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.68912 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.57551 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.60586 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58477 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77213 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31225 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5878 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62128 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75058 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66685 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64616 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51157 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.53949 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72641 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69244 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58066 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61209 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.58967 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77398 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31521 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.59031 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62361 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75199 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66872 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.64827 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51449 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54187 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.7281 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69401 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58273 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61471 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59167 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31544 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5905 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62377 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75207 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6484 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51467 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54211 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72822 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58281 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61487 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59169 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "qa", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "zh", - "dataset": "default", - "value": 0.77413 - }, - { - "domain": "law", - "lang": "en", - "dataset": "default", - "value": 0.31544 - }, - { - "domain": "news", - "lang": "zh", - "dataset": "default", - "value": 0.5905 - }, - { - "domain": "news", - "lang": "en", - "dataset": "default", - "value": 0.62377 - }, - { - "domain": "msmarco", - "lang": "en", - "dataset": "default", - "value": 0.75207 - }, - { - "domain": "healthcare", - "lang": "zh", - "dataset": "default", - "value": 0.66885 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "default", - "value": 0.6484 - }, - { - "domain": "finance", - "lang": "zh", - "dataset": "default", - "value": 0.51467 - }, - { - "domain": "finance", - "lang": "en", - "dataset": "default", - "value": 0.54211 - }, - { - "domain": "wiki", - "lang": "zh", - "dataset": "default", - "value": 0.72822 - }, - { - "domain": "wiki", - "lang": "en", - "dataset": "default", - "value": 0.69409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "default", - "value": 0.58281 - }, - { - "domain": "web", - "lang": "zh", - "dataset": "default", - "value": 0.61487 - }, - { - "domain": "web", - "lang": "en", - "dataset": "default", - "value": 0.59169 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.61946 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60249 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.63942 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.67613 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.7374 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5899 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61881 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62095 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6627 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57051 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.59374 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.482 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.47475 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51502 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57645 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.62306 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.60391 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.6281 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.68437 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.73829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.5985 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.65121 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.65537 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.67049 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57798 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.63733 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.52773 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51808 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.5375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.60497 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.68388 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.66317 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67019 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.74335 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.78787 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6419 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.70496 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.71365 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71929 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.63495 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70152 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.59226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.56053 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.58317 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.63277 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.71974 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.71232 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.70971 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.77925 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.8255 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68135 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73349 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73363 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74164 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66548 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.72697 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63212 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.60583 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62292 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65919 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7154 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71259 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74533 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66906 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66312 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "ndcg_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.72386 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7154 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.71259 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.78123 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.82803 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.68559 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.73541 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.73548 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.74533 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.66906 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7308 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.63519 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61204 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.62869 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.66312 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19298 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36965 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24998 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32962 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.40436 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.35851 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.38881 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.45893 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.49929 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.43969 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.48691 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.49533 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.53618 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.41334 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.49403 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.40872 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.42854 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.40323 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54819 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.48825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45036 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.47869 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.55174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.60152 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.50321 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.5513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.55978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58544 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47316 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.55338 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.45153 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.46027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.45066 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56426 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.57595 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.55652 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.57223 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.63945 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.69198 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.55923 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.60191 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.61192 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.63057 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.5321 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.60452 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.4941 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.48322 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.49303 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57528 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59592 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58502 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59764 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.66309 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71637 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57648 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61683 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62314 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64044 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54691 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61636 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.5105 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49606 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.50972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5813 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58165 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "map_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.59679 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.58553 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.59811 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6635 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.71681 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.57724 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.61703 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.62341 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.64098 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.54743 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.61695 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.51091 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.49675 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.51051 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58165 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.21153 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.19298 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.1977 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.2454 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.29015 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.26072 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.32461 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.32728 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.36965 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.24998 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.3324 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.28321 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.32962 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.246 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.45342 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.39297 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.43208 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.50649 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.53804 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.48538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.55278 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.5619 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.58394 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.47204 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.56772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.49515 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51855 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.46542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.65863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.58301 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.53095 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.55636 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.6441 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.68302 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.58507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67655 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.68296 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.6723 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.57227 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.69672 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.60998 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.61177 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.55963 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.72691 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76324 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.72548 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.72103 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81696 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.83609 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.69914 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.79971 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.81711 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78478 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71592 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.84542 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.77001 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.72354 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.67228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.81526 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.86756 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.86334 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.82735 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.91204 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.93722 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.83153 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.88513 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.87503 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.85517 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.81037 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.93081 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.90777 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.90232 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.80689 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.93173 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "recall_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.88521 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.87848 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.84086 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.92045 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.94917 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.85085 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.89625 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.8843 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.87432 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.82774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.94937 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.92413 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.93793 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.83714 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.95582 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71774 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.53468 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.52653 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.56114 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.58014 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.6096 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.45734 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.44413 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.44538 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.4543 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.44991 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.4009 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.2955 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.23739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.38375 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.21954 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.44162 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.45706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.46568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.47375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.50326 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.36071 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.34817 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.3507 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.33656 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.34973 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.31297 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.23067 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.17567 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.29412 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.14538 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.30318 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.33093 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.32426 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.3174 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.3375 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.23333 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.22 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.22241 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.20941 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.23115 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.2027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.15307 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.10772 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.18739 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.08153 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.06803 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.07706 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.07438 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.07168 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.07614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.05387 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.04946 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.04829 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.04602 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.05235 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.0447 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.03613 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.02677 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.04409 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.01863 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.0346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.03889 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.03754 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.03614 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.0384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.0275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.0249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.02434 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.02339 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.02658 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.02276 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.01834 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.01386 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.02261 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00956 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "precision_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.00346 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.00389 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.00375 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.00361 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.00384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.00275 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.00249 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.00243 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.00234 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.00266 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.00228 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.00183 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.00139 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.00226 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.00096 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.66763 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.67568 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.67751 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.73451 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.80978 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.6369 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.67606 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.66106 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.71505 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.61475 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.5973 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.44785 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.41543 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.53782 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.46586 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_3" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.74711 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.73874 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74458 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.80973 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.86775 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.70089 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.76009 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.75303 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.78271 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.70355 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.68964 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.54908 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.51335 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.61625 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.54819 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_5" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.75621 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.7494 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.74931 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81608 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87142 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.7067 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77277 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76242 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79252 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71025 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.70559 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.57239 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.53027 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63011 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.56426 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_10" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76118 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75533 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75656 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.81907 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87282 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71044 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77498 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76662 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79552 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71691 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71264 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58443 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54145 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63581 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.57524 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_50" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76369 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75825 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75826 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87377 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71472 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.77641 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.76755 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.7972 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71872 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.71442 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58838 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54934 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.63993 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.58125 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_100" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71483 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79734 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71888 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5816 - } - ] - }, - { - "config": { - "retrieval_model": "multilingual-e5-small", - "retrieval_model_link": "https://huggingface.co/intfloat/multilingual-e5-small", - "reranking_model": "mmarco-mMiniLMv2-L12-H384-v1", - "reranking_model_link": "https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1", - "task": "long-doc", - "metric": "mrr_at_1000" - }, - "results": [ - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_500K-600K", - "value": 0.76378 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_400K-500K", - "value": 0.75837 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_600K-700K", - "value": 0.75839 - }, - { - "domain": "law", - "lang": "en", - "dataset": "lex_files_300K-400K", - "value": 0.82059 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_30K-40K_10-merged", - "value": 0.87384 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_40K-50K_5-merged", - "value": 0.71483 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_2", - "value": 0.7765 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_3", - "value": 0.7676 - }, - { - "domain": "healthcare", - "lang": "en", - "dataset": "pubmed_100K-200K_1", - "value": 0.79734 - }, - { - "domain": "book", - "lang": "en", - "dataset": "origin-of-species_darwin", - "value": 0.71888 - }, - { - "domain": "book", - "lang": "en", - "dataset": "a-brief-history-of-time_stephen-hawking", - "value": 0.7146 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llama2", - "value": 0.58846 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gpt3", - "value": 0.54972 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "llm-survey", - "value": 0.64023 - }, - { - "domain": "arxiv", - "lang": "en", - "dataset": "gemini", - "value": 0.5816 - } - ] - } -] \ No newline at end of file diff --git a/AIR-Bench_24.04/overall_evaluation_results.json b/AIR-Bench_24.04/overall_evaluation_results.json deleted file mode 100644 index bb99e0ab35c6fcdf739b672406af2126fc7f006c..0000000000000000000000000000000000000000 --- a/AIR-Bench_24.04/overall_evaluation_results.json +++ /dev/null @@ -1,63396 +0,0 @@ -{ - "[bge-small-en-v1.5](https://huggingface.co/BAAI/bge-small-en-v1.5)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.22321, - "ndcg_at_3": 0.20348, - "ndcg_at_5": 0.20519, - "ndcg_at_10": 0.22074, - "ndcg_at_50": 0.26358, - "ndcg_at_100": 0.27236, - "ndcg_at_1000": 0.27236, - "map_at_1": 0.07517, - "map_at_3": 0.12301, - "map_at_5": 0.14372, - "map_at_10": 0.16393, - "map_at_50": 0.18075, - "map_at_100": 0.18209, - "map_at_1000": 0.18209, - "recall_at_1": 0.07517, - "recall_at_3": 0.15225, - "recall_at_5": 0.19439, - "recall_at_10": 0.25153, - "recall_at_50": 0.38146, - "recall_at_100": 0.42198, - "recall_at_1000": 0.42198, - "precision_at_1": 0.22321, - "precision_at_3": 0.16509, - "precision_at_5": 0.13504, - "precision_at_10": 0.0935, - "precision_at_50": 0.02866, - "precision_at_100": 0.01549, - "precision_at_1000": 0.00155, - "mrr_at_1": 0.22376, - "mrr_at_3": 0.27466, - "mrr_at_5": 0.28355, - "mrr_at_10": 0.2898, - "mrr_at_50": 0.29522, - "mrr_at_100": 0.29564, - "mrr_at_1000": 0.29564 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.40644, - "ndcg_at_3": 0.39895, - "ndcg_at_5": 0.40324, - "ndcg_at_10": 0.43067, - "ndcg_at_50": 0.49366, - "ndcg_at_100": 0.50692, - "ndcg_at_1000": 0.50692, - "map_at_1": 0.1672, - "map_at_3": 0.26537, - "map_at_5": 0.30505, - "map_at_10": 0.34721, - "map_at_50": 0.37565, - "map_at_100": 0.37795, - "map_at_1000": 0.37795, - "recall_at_1": 0.1672, - "recall_at_3": 0.31012, - "recall_at_5": 0.38364, - "recall_at_10": 0.48784, - "recall_at_50": 0.66817, - "recall_at_100": 0.72714, - "recall_at_1000": 0.72714, - "precision_at_1": 0.40644, - "precision_at_3": 0.31, - "precision_at_5": 0.25279, - "precision_at_10": 0.17677, - "precision_at_50": 0.05152, - "precision_at_100": 0.02767, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.40644, - "mrr_at_3": 0.4841, - "mrr_at_5": 0.49795, - "mrr_at_10": 0.50695, - "mrr_at_50": 0.51287, - "mrr_at_100": 0.5133, - "mrr_at_1000": 0.5133 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.47128, - "ndcg_at_3": 0.45108, - "ndcg_at_5": 0.44704, - "ndcg_at_10": 0.47574, - "ndcg_at_50": 0.56597, - "ndcg_at_100": 0.58238, - "ndcg_at_1000": 0.58238, - "map_at_1": 0.11783, - "map_at_3": 0.23277, - "map_at_5": 0.29571, - "map_at_10": 0.36721, - "map_at_50": 0.41534, - "map_at_100": 0.41869, - "map_at_1000": 0.41869, - "recall_at_1": 0.11783, - "recall_at_3": 0.27018, - "recall_at_5": 0.37325, - "recall_at_10": 0.52185, - "recall_at_50": 0.75412, - "recall_at_100": 0.8193, - "recall_at_1000": 0.8193, - "precision_at_1": 0.47128, - "precision_at_3": 0.40761, - "precision_at_5": 0.35844, - "precision_at_10": 0.26681, - "precision_at_50": 0.07951, - "precision_at_100": 0.04259, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.47128, - "mrr_at_3": 0.55647, - "mrr_at_5": 0.57272, - "mrr_at_10": 0.58247, - "mrr_at_50": 0.58788, - "mrr_at_100": 0.58826, - "mrr_at_1000": 0.58826 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.40539, - "ndcg_at_3": 0.39216, - "ndcg_at_5": 0.41153, - "ndcg_at_10": 0.45747, - "ndcg_at_50": 0.5145, - "ndcg_at_100": 0.52335, - "ndcg_at_1000": 0.52335, - "map_at_1": 0.16636, - "map_at_3": 0.28004, - "map_at_5": 0.32175, - "map_at_10": 0.36084, - "map_at_50": 0.38314, - "map_at_100": 0.38447, - "map_at_1000": 0.38447, - "recall_at_1": 0.16636, - "recall_at_3": 0.33499, - "recall_at_5": 0.42528, - "recall_at_10": 0.54902, - "recall_at_50": 0.73233, - "recall_at_100": 0.77548, - "recall_at_1000": 0.77548, - "precision_at_1": 0.40539, - "precision_at_3": 0.30814, - "precision_at_5": 0.24851, - "precision_at_10": 0.16632, - "precision_at_50": 0.04416, - "precision_at_100": 0.0231, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.40539, - "mrr_at_3": 0.4917, - "mrr_at_5": 0.51051, - "mrr_at_10": 0.52262, - "mrr_at_50": 0.52853, - "mrr_at_100": 0.52885, - "mrr_at_1000": 0.52885 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.30852, - "ndcg_at_3": 0.33318, - "ndcg_at_5": 0.3517, - "ndcg_at_10": 0.3809, - "ndcg_at_50": 0.4295, - "ndcg_at_100": 0.4388, - "ndcg_at_1000": 0.4388, - "map_at_1": 0.17242, - "map_at_3": 0.26631, - "map_at_5": 0.29545, - "map_at_10": 0.31886, - "map_at_50": 0.33581, - "map_at_100": 0.33708, - "map_at_1000": 0.33708, - "recall_at_1": 0.17242, - "recall_at_3": 0.32056, - "recall_at_5": 0.38922, - "recall_at_10": 0.47119, - "recall_at_50": 0.64541, - "recall_at_100": 0.69304, - "recall_at_1000": 0.69304, - "precision_at_1": 0.30852, - "precision_at_3": 0.22208, - "precision_at_5": 0.17186, - "precision_at_10": 0.1111, - "precision_at_50": 0.03079, - "precision_at_100": 0.0164, - "precision_at_1000": 0.00164, - "mrr_at_1": 0.30852, - "mrr_at_3": 0.37676, - "mrr_at_5": 0.38802, - "mrr_at_10": 0.39614, - "mrr_at_50": 0.40256, - "mrr_at_100": 0.40308, - "mrr_at_1000": 0.40308 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.48292, - "ndcg_at_3": 0.46697, - "ndcg_at_5": 0.4804, - "ndcg_at_10": 0.50718, - "ndcg_at_50": 0.54343, - "ndcg_at_100": 0.55363, - "ndcg_at_1000": 0.55363, - "map_at_1": 0.27321, - "map_at_3": 0.37722, - "map_at_5": 0.40737, - "map_at_10": 0.42828, - "map_at_50": 0.44068, - "map_at_100": 0.44205, - "map_at_1000": 0.44205, - "recall_at_1": 0.27321, - "recall_at_3": 0.43281, - "recall_at_5": 0.49928, - "recall_at_10": 0.57304, - "recall_at_50": 0.6973, - "recall_at_100": 0.74856, - "recall_at_1000": 0.74856, - "precision_at_1": 0.48292, - "precision_at_3": 0.30264, - "precision_at_5": 0.22108, - "precision_at_10": 0.1326, - "precision_at_50": 0.03331, - "precision_at_100": 0.01778, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.48292, - "mrr_at_3": 0.5635, - "mrr_at_5": 0.57369, - "mrr_at_10": 0.58075, - "mrr_at_50": 0.58535, - "mrr_at_100": 0.58585, - "mrr_at_1000": 0.58585 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.342, - "ndcg_at_3": 0.31886, - "ndcg_at_5": 0.33315, - "ndcg_at_10": 0.36331, - "ndcg_at_50": 0.42164, - "ndcg_at_100": 0.43246, - "ndcg_at_1000": 0.43246, - "map_at_1": 0.12469, - "map_at_3": 0.20709, - "map_at_5": 0.24487, - "map_at_10": 0.2745, - "map_at_50": 0.29659, - "map_at_100": 0.29815, - "map_at_1000": 0.29815, - "recall_at_1": 0.12469, - "recall_at_3": 0.25532, - "recall_at_5": 0.33871, - "recall_at_10": 0.42687, - "recall_at_50": 0.61452, - "recall_at_100": 0.66718, - "recall_at_1000": 0.66718, - "precision_at_1": 0.342, - "precision_at_3": 0.25823, - "precision_at_5": 0.21479, - "precision_at_10": 0.14165, - "precision_at_50": 0.04003, - "precision_at_100": 0.02124, - "precision_at_1000": 0.00212, - "mrr_at_1": 0.342, - "mrr_at_3": 0.42249, - "mrr_at_5": 0.44034, - "mrr_at_10": 0.44892, - "mrr_at_50": 0.45526, - "mrr_at_100": 0.45581, - "mrr_at_1000": 0.45581 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.43351, - "ndcg_at_3": 0.40187, - "ndcg_at_5": 0.40912, - "ndcg_at_10": 0.44116, - "ndcg_at_50": 0.49106, - "ndcg_at_100": 0.50123, - "ndcg_at_1000": 0.50123, - "map_at_1": 0.18502, - "map_at_3": 0.271, - "map_at_5": 0.30777, - "map_at_10": 0.34281, - "map_at_50": 0.3647, - "map_at_100": 0.36633, - "map_at_1000": 0.36633, - "recall_at_1": 0.18502, - "recall_at_3": 0.32582, - "recall_at_5": 0.40524, - "recall_at_10": 0.50968, - "recall_at_50": 0.6553, - "recall_at_100": 0.70321, - "recall_at_1000": 0.70321, - "precision_at_1": 0.43351, - "precision_at_3": 0.29682, - "precision_at_5": 0.23913, - "precision_at_10": 0.16186, - "precision_at_50": 0.04408, - "precision_at_100": 0.02336, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.43351, - "mrr_at_3": 0.5166, - "mrr_at_5": 0.53083, - "mrr_at_10": 0.54131, - "mrr_at_50": 0.54542, - "mrr_at_100": 0.54581, - "mrr_at_1000": 0.54581 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.56936, - "ndcg_at_3": 0.52335, - "ndcg_at_5": 0.51946, - "ndcg_at_10": 0.5765, - "ndcg_at_50": 0.63869, - "ndcg_at_100": 0.65151, - "ndcg_at_1000": 0.65151, - "map_at_1": 0.17498, - "map_at_3": 0.32762, - "map_at_5": 0.39862, - "map_at_10": 0.46765, - "map_at_50": 0.4989, - "map_at_100": 0.50103, - "map_at_1000": 0.50103, - "recall_at_1": 0.17498, - "recall_at_3": 0.37261, - "recall_at_5": 0.47997, - "recall_at_10": 0.65252, - "recall_at_50": 0.83285, - "recall_at_100": 0.8899, - "recall_at_1000": 0.8899, - "precision_at_1": 0.56936, - "precision_at_3": 0.45279, - "precision_at_5": 0.36994, - "precision_at_10": 0.25694, - "precision_at_50": 0.0652, - "precision_at_100": 0.03442, - "precision_at_1000": 0.00344, - "mrr_at_1": 0.56936, - "mrr_at_3": 0.65077, - "mrr_at_5": 0.65554, - "mrr_at_10": 0.66871, - "mrr_at_50": 0.67293, - "mrr_at_100": 0.67329, - "mrr_at_1000": 0.67329 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.51051, - "ndcg_at_3": 0.4884, - "ndcg_at_5": 0.48846, - "ndcg_at_10": 0.54357, - "ndcg_at_50": 0.62079, - "ndcg_at_100": 0.63008, - "ndcg_at_1000": 0.63008, - "map_at_1": 0.1525, - "map_at_3": 0.28737, - "map_at_5": 0.35435, - "map_at_10": 0.4352, - "map_at_50": 0.4745, - "map_at_100": 0.47649, - "map_at_1000": 0.47649, - "recall_at_1": 0.1525, - "recall_at_3": 0.33027, - "recall_at_5": 0.44095, - "recall_at_10": 0.61224, - "recall_at_50": 0.82276, - "recall_at_100": 0.85973, - "recall_at_1000": 0.85973, - "precision_at_1": 0.51051, - "precision_at_3": 0.43043, - "precision_at_5": 0.36937, - "precision_at_10": 0.27177, - "precision_at_50": 0.07387, - "precision_at_100": 0.03844, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.51051, - "mrr_at_3": 0.59309, - "mrr_at_5": 0.61517, - "mrr_at_10": 0.6249, - "mrr_at_50": 0.62886, - "mrr_at_100": 0.62899, - "mrr_at_1000": 0.62899 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.57988, - "ndcg_at_3": 0.54553, - "ndcg_at_5": 0.54205, - "ndcg_at_10": 0.57709, - "ndcg_at_50": 0.63787, - "ndcg_at_100": 0.64703, - "ndcg_at_1000": 0.64703, - "map_at_1": 0.17088, - "map_at_3": 0.33109, - "map_at_5": 0.40552, - "map_at_10": 0.47596, - "map_at_50": 0.50753, - "map_at_100": 0.50915, - "map_at_1000": 0.50915, - "recall_at_1": 0.17088, - "recall_at_3": 0.36946, - "recall_at_5": 0.48231, - "recall_at_10": 0.62812, - "recall_at_50": 0.79586, - "recall_at_100": 0.83541, - "recall_at_1000": 0.83541, - "precision_at_1": 0.57988, - "precision_at_3": 0.48028, - "precision_at_5": 0.40533, - "precision_at_10": 0.27751, - "precision_at_50": 0.07083, - "precision_at_100": 0.03683, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.57988, - "mrr_at_3": 0.64546, - "mrr_at_5": 0.65893, - "mrr_at_10": 0.6673, - "mrr_at_50": 0.67156, - "mrr_at_100": 0.67184, - "mrr_at_1000": 0.67184 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.60472, - "ndcg_at_3": 0.57707, - "ndcg_at_5": 0.57124, - "ndcg_at_10": 0.62034, - "ndcg_at_50": 0.68843, - "ndcg_at_100": 0.69766, - "ndcg_at_1000": 0.69766, - "map_at_1": 0.19596, - "map_at_3": 0.38258, - "map_at_5": 0.44732, - "map_at_10": 0.51618, - "map_at_50": 0.55119, - "map_at_100": 0.55311, - "map_at_1000": 0.55311, - "recall_at_1": 0.19596, - "recall_at_3": 0.43652, - "recall_at_5": 0.53757, - "recall_at_10": 0.68228, - "recall_at_50": 0.87636, - "recall_at_100": 0.91452, - "recall_at_1000": 0.91452, - "precision_at_1": 0.60472, - "precision_at_3": 0.50344, - "precision_at_5": 0.39587, - "precision_at_10": 0.26755, - "precision_at_50": 0.06932, - "precision_at_100": 0.03611, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.60472, - "mrr_at_3": 0.69371, - "mrr_at_5": 0.70241, - "mrr_at_10": 0.70819, - "mrr_at_50": 0.71266, - "mrr_at_100": 0.71286, - "mrr_at_1000": 0.71286 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.6413, - "ndcg_at_3": 0.61291, - "ndcg_at_5": 0.61075, - "ndcg_at_10": 0.66595, - "ndcg_at_50": 0.73102, - "ndcg_at_100": 0.73967, - "ndcg_at_1000": 0.73967, - "map_at_1": 0.22901, - "map_at_3": 0.41002, - "map_at_5": 0.4859, - "map_at_10": 0.5639, - "map_at_50": 0.59751, - "map_at_100": 0.5993, - "map_at_1000": 0.5993, - "recall_at_1": 0.22901, - "recall_at_3": 0.45423, - "recall_at_5": 0.57316, - "recall_at_10": 0.73381, - "recall_at_50": 0.91297, - "recall_at_100": 0.94898, - "recall_at_1000": 0.94898, - "precision_at_1": 0.6413, - "precision_at_3": 0.51449, - "precision_at_5": 0.41848, - "precision_at_10": 0.28832, - "precision_at_50": 0.07402, - "precision_at_100": 0.03834, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.6413, - "mrr_at_3": 0.72509, - "mrr_at_5": 0.73841, - "mrr_at_10": 0.74367, - "mrr_at_50": 0.74627, - "mrr_at_100": 0.74637, - "mrr_at_1000": 0.74637 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.51786, - "ndcg_at_3": 0.47809, - "ndcg_at_5": 0.48847, - "ndcg_at_10": 0.53272, - "ndcg_at_50": 0.59407, - "ndcg_at_100": 0.60489, - "ndcg_at_1000": 0.60489, - "map_at_1": 0.22049, - "map_at_3": 0.34994, - "map_at_5": 0.39847, - "map_at_10": 0.44427, - "map_at_50": 0.46995, - "map_at_100": 0.47183, - "map_at_1000": 0.47183, - "recall_at_1": 0.22049, - "recall_at_3": 0.39394, - "recall_at_5": 0.48214, - "recall_at_10": 0.59459, - "recall_at_50": 0.78848, - "recall_at_100": 0.83639, - "recall_at_1000": 0.83639, - "precision_at_1": 0.51786, - "precision_at_3": 0.36409, - "precision_at_5": 0.28869, - "precision_at_10": 0.19196, - "precision_at_50": 0.05119, - "precision_at_100": 0.02708, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.51786, - "mrr_at_3": 0.59077, - "mrr_at_5": 0.60238, - "mrr_at_10": 0.60847, - "mrr_at_50": 0.61369, - "mrr_at_100": 0.614, - "mrr_at_1000": 0.614 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.57746, - "ndcg_at_3": 0.53669, - "ndcg_at_5": 0.55872, - "ndcg_at_10": 0.60488, - "ndcg_at_50": 0.65494, - "ndcg_at_100": 0.66419, - "ndcg_at_1000": 0.66419, - "map_at_1": 0.27776, - "map_at_3": 0.41277, - "map_at_5": 0.46537, - "map_at_10": 0.50556, - "map_at_50": 0.52689, - "map_at_100": 0.52831, - "map_at_1000": 0.52831, - "recall_at_1": 0.27776, - "recall_at_3": 0.47804, - "recall_at_5": 0.58161, - "recall_at_10": 0.6912, - "recall_at_50": 0.8482, - "recall_at_100": 0.89179, - "recall_at_1000": 0.89179, - "precision_at_1": 0.57746, - "precision_at_3": 0.38498, - "precision_at_5": 0.2969, - "precision_at_10": 0.18817, - "precision_at_50": 0.04687, - "precision_at_100": 0.02454, - "precision_at_1000": 0.00245, - "mrr_at_1": 0.57746, - "mrr_at_3": 0.66714, - "mrr_at_5": 0.67798, - "mrr_at_10": 0.68216, - "mrr_at_50": 0.68671, - "mrr_at_100": 0.687, - "mrr_at_1000": 0.687 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.56583, - "ndcg_at_3": 0.5403, - "ndcg_at_5": 0.56289, - "ndcg_at_10": 0.61762, - "ndcg_at_50": 0.65883, - "ndcg_at_100": 0.66931, - "ndcg_at_1000": 0.66931, - "map_at_1": 0.27082, - "map_at_3": 0.42639, - "map_at_5": 0.47514, - "map_at_10": 0.51868, - "map_at_50": 0.53603, - "map_at_100": 0.53764, - "map_at_1000": 0.53764, - "recall_at_1": 0.27082, - "recall_at_3": 0.48387, - "recall_at_5": 0.5859, - "recall_at_10": 0.71614, - "recall_at_50": 0.84764, - "recall_at_100": 0.89809, - "recall_at_1000": 0.89809, - "precision_at_1": 0.56583, - "precision_at_3": 0.39402, - "precision_at_5": 0.30028, - "precision_at_10": 0.193, - "precision_at_50": 0.04639, - "precision_at_100": 0.0244, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.56583, - "mrr_at_3": 0.65359, - "mrr_at_5": 0.66872, - "mrr_at_10": 0.67679, - "mrr_at_50": 0.67992, - "mrr_at_100": 0.68027, - "mrr_at_1000": 0.68027 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.56989, - "ndcg_at_3": 0.5262, - "ndcg_at_5": 0.53852, - "ndcg_at_10": 0.58378, - "ndcg_at_50": 0.62971, - "ndcg_at_100": 0.64228, - "ndcg_at_1000": 0.64228, - "map_at_1": 0.28058, - "map_at_3": 0.41411, - "map_at_5": 0.4582, - "map_at_10": 0.49259, - "map_at_50": 0.51153, - "map_at_100": 0.5132, - "map_at_1000": 0.5132, - "recall_at_1": 0.28058, - "recall_at_3": 0.46727, - "recall_at_5": 0.55003, - "recall_at_10": 0.65863, - "recall_at_50": 0.80488, - "recall_at_100": 0.86718, - "recall_at_1000": 0.86718, - "precision_at_1": 0.56989, - "precision_at_3": 0.36918, - "precision_at_5": 0.27849, - "precision_at_10": 0.17527, - "precision_at_50": 0.04387, - "precision_at_100": 0.02333, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.56989, - "mrr_at_3": 0.64516, - "mrr_at_5": 0.65645, - "mrr_at_10": 0.66375, - "mrr_at_50": 0.66699, - "mrr_at_100": 0.66767, - "mrr_at_1000": 0.66767 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.51093, - "ndcg_at_3": 0.4748, - "ndcg_at_5": 0.4871, - "ndcg_at_10": 0.54357, - "ndcg_at_50": 0.60423, - "ndcg_at_100": 0.61551, - "ndcg_at_1000": 0.61551, - "map_at_1": 0.20377, - "map_at_3": 0.33967, - "map_at_5": 0.38989, - "map_at_10": 0.44044, - "map_at_50": 0.46601, - "map_at_100": 0.46791, - "map_at_1000": 0.46791, - "recall_at_1": 0.20377, - "recall_at_3": 0.39056, - "recall_at_5": 0.4897, - "recall_at_10": 0.6305, - "recall_at_50": 0.81946, - "recall_at_100": 0.8726, - "recall_at_1000": 0.8726, - "precision_at_1": 0.51093, - "precision_at_3": 0.37523, - "precision_at_5": 0.29508, - "precision_at_10": 0.20055, - "precision_at_50": 0.05246, - "precision_at_100": 0.02762, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.51093, - "mrr_at_3": 0.60018, - "mrr_at_5": 0.6133, - "mrr_at_10": 0.62196, - "mrr_at_50": 0.62693, - "mrr_at_100": 0.62737, - "mrr_at_1000": 0.62737 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.48919, - "ndcg_at_3": 0.48188, - "ndcg_at_5": 0.50746, - "ndcg_at_10": 0.57497, - "ndcg_at_50": 0.6345, - "ndcg_at_100": 0.6466, - "ndcg_at_1000": 0.6466, - "map_at_1": 0.26483, - "map_at_3": 0.39366, - "map_at_5": 0.43184, - "map_at_10": 0.48003, - "map_at_50": 0.50335, - "map_at_100": 0.50508, - "map_at_1000": 0.50508, - "recall_at_1": 0.26483, - "recall_at_3": 0.45587, - "recall_at_5": 0.54435, - "recall_at_10": 0.70526, - "recall_at_50": 0.90982, - "recall_at_100": 0.97077, - "recall_at_1000": 0.97077, - "precision_at_1": 0.48919, - "precision_at_3": 0.32613, - "precision_at_5": 0.24811, - "precision_at_10": 0.16919, - "precision_at_50": 0.04346, - "precision_at_100": 0.023, - "precision_at_1000": 0.0023, - "mrr_at_1": 0.48919, - "mrr_at_3": 0.57342, - "mrr_at_5": 0.59045, - "mrr_at_10": 0.60187, - "mrr_at_50": 0.60788, - "mrr_at_100": 0.60836, - "mrr_at_1000": 0.60836 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.37423, - "ndcg_at_3": 0.38398, - "ndcg_at_5": 0.42443, - "ndcg_at_10": 0.47852, - "ndcg_at_50": 0.53974, - "ndcg_at_100": 0.54844, - "ndcg_at_1000": 0.54844, - "map_at_1": 0.23439, - "map_at_3": 0.32087, - "map_at_5": 0.35902, - "map_at_10": 0.39136, - "map_at_50": 0.41274, - "map_at_100": 0.4138, - "map_at_1000": 0.4138, - "recall_at_1": 0.23439, - "recall_at_3": 0.38383, - "recall_at_5": 0.48657, - "recall_at_10": 0.62415, - "recall_at_50": 0.84468, - "recall_at_100": 0.89054, - "recall_at_1000": 0.89054, - "precision_at_1": 0.37423, - "precision_at_3": 0.2362, - "precision_at_5": 0.1908, - "precision_at_10": 0.12577, - "precision_at_50": 0.03368, - "precision_at_100": 0.01764, - "precision_at_1000": 0.00176, - "mrr_at_1": 0.37423, - "mrr_at_3": 0.45041, - "mrr_at_5": 0.4728, - "mrr_at_10": 0.48679, - "mrr_at_50": 0.49549, - "mrr_at_100": 0.49593, - "mrr_at_1000": 0.49593 - }, - "gpt3": { - "ndcg_at_1": 0.36202, - "ndcg_at_3": 0.41765, - "ndcg_at_5": 0.44813, - "ndcg_at_10": 0.49499, - "ndcg_at_50": 0.55058, - "ndcg_at_100": 0.55879, - "ndcg_at_1000": 0.55879, - "map_at_1": 0.2814, - "map_at_3": 0.37455, - "map_at_5": 0.39569, - "map_at_10": 0.41977, - "map_at_50": 0.43491, - "map_at_100": 0.43579, - "map_at_1000": 0.43579, - "recall_at_1": 0.2814, - "recall_at_3": 0.46513, - "recall_at_5": 0.53412, - "recall_at_10": 0.66073, - "recall_at_50": 0.8818, - "recall_at_100": 0.92928, - "recall_at_1000": 0.92928, - "precision_at_1": 0.36202, - "precision_at_3": 0.21365, - "precision_at_5": 0.15074, - "precision_at_10": 0.09703, - "precision_at_50": 0.02599, - "precision_at_100": 0.01362, - "precision_at_1000": 0.00136, - "mrr_at_1": 0.36202, - "mrr_at_3": 0.44659, - "mrr_at_5": 0.46024, - "mrr_at_10": 0.47404, - "mrr_at_50": 0.48416, - "mrr_at_100": 0.48474, - "mrr_at_1000": 0.48474 - }, - "llm-survey": { - "ndcg_at_1": 0.42297, - "ndcg_at_3": 0.39079, - "ndcg_at_5": 0.41967, - "ndcg_at_10": 0.46144, - "ndcg_at_50": 0.52249, - "ndcg_at_100": 0.53775, - "ndcg_at_1000": 0.53775, - "map_at_1": 0.19634, - "map_at_3": 0.30277, - "map_at_5": 0.34549, - "map_at_10": 0.37681, - "map_at_50": 0.39864, - "map_at_100": 0.40083, - "map_at_1000": 0.40083, - "recall_at_1": 0.19634, - "recall_at_3": 0.35167, - "recall_at_5": 0.44343, - "recall_at_10": 0.54693, - "recall_at_50": 0.75333, - "recall_at_100": 0.82866, - "recall_at_1000": 0.82866, - "precision_at_1": 0.42297, - "precision_at_3": 0.28198, - "precision_at_5": 0.22857, - "precision_at_10": 0.14874, - "precision_at_50": 0.04078, - "precision_at_100": 0.0221, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.42297, - "mrr_at_3": 0.48926, - "mrr_at_5": 0.50425, - "mrr_at_10": 0.51573, - "mrr_at_50": 0.52331, - "mrr_at_100": 0.52398, - "mrr_at_1000": 0.52398 - }, - "gemini": { - "ndcg_at_1": 0.35341, - "ndcg_at_3": 0.47021, - "ndcg_at_5": 0.48853, - "ndcg_at_10": 0.52348, - "ndcg_at_50": 0.55958, - "ndcg_at_100": 0.57072, - "ndcg_at_1000": 0.57072, - "map_at_1": 0.35341, - "map_at_3": 0.44244, - "map_at_5": 0.45268, - "map_at_10": 0.46703, - "map_at_50": 0.47503, - "map_at_100": 0.47603, - "map_at_1000": 0.47603, - "recall_at_1": 0.35341, - "recall_at_3": 0.5502, - "recall_at_5": 0.59438, - "recall_at_10": 0.70281, - "recall_at_50": 0.86345, - "recall_at_100": 0.93173, - "recall_at_1000": 0.93173, - "precision_at_1": 0.35341, - "precision_at_3": 0.1834, - "precision_at_5": 0.11888, - "precision_at_10": 0.07028, - "precision_at_50": 0.01727, - "precision_at_100": 0.00932, - "precision_at_1000": 0.00093, - "mrr_at_1": 0.35341, - "mrr_at_3": 0.44244, - "mrr_at_5": 0.45268, - "mrr_at_10": 0.46703, - "mrr_at_50": 0.47503, - "mrr_at_100": 0.47603, - "mrr_at_1000": 0.47603 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.36646, - "ndcg_at_3": 0.32616, - "ndcg_at_5": 0.32175, - "ndcg_at_10": 0.33232, - "ndcg_at_50": 0.35703, - "ndcg_at_100": 0.35912, - "ndcg_at_1000": 0.35912, - "map_at_1": 0.15055, - "map_at_3": 0.22587, - "map_at_5": 0.25244, - "map_at_10": 0.27552, - "map_at_50": 0.28826, - "map_at_100": 0.28858, - "map_at_1000": 0.28858, - "recall_at_1": 0.15055, - "recall_at_3": 0.25151, - "recall_at_5": 0.29446, - "recall_at_10": 0.34431, - "recall_at_50": 0.4124, - "recall_at_100": 0.42198, - "recall_at_1000": 0.42198, - "precision_at_1": 0.36646, - "precision_at_3": 0.24746, - "precision_at_5": 0.19089, - "precision_at_10": 0.12182, - "precision_at_50": 0.03039, - "precision_at_100": 0.01549, - "precision_at_1000": 0.00155, - "mrr_at_1": 0.36646, - "mrr_at_3": 0.41014, - "mrr_at_5": 0.41622, - "mrr_at_10": 0.42004, - "mrr_at_50": 0.42196, - "mrr_at_100": 0.42207, - "mrr_at_1000": 0.42207 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.57683, - "ndcg_at_3": 0.54686, - "ndcg_at_5": 0.54869, - "ndcg_at_10": 0.5739, - "ndcg_at_50": 0.61374, - "ndcg_at_100": 0.61624, - "ndcg_at_1000": 0.61624, - "map_at_1": 0.25987, - "map_at_3": 0.39036, - "map_at_5": 0.44303, - "map_at_10": 0.49266, - "map_at_50": 0.51644, - "map_at_100": 0.51694, - "map_at_1000": 0.51694, - "recall_at_1": 0.25987, - "recall_at_3": 0.42832, - "recall_at_5": 0.51192, - "recall_at_10": 0.61469, - "recall_at_50": 0.71682, - "recall_at_100": 0.72714, - "recall_at_1000": 0.72714, - "precision_at_1": 0.57683, - "precision_at_3": 0.405, - "precision_at_5": 0.32478, - "precision_at_10": 0.21859, - "precision_at_50": 0.05457, - "precision_at_100": 0.02767, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.57683, - "mrr_at_3": 0.64188, - "mrr_at_5": 0.65204, - "mrr_at_10": 0.6587, - "mrr_at_50": 0.66101, - "mrr_at_100": 0.6611, - "mrr_at_1000": 0.6611 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.68729, - "ndcg_at_3": 0.63476, - "ndcg_at_5": 0.61378, - "ndcg_at_10": 0.63206, - "ndcg_at_50": 0.69633, - "ndcg_at_100": 0.69953, - "ndcg_at_1000": 0.69953, - "map_at_1": 0.19408, - "map_at_3": 0.3601, - "map_at_5": 0.44071, - "map_at_10": 0.52361, - "map_at_50": 0.56693, - "map_at_100": 0.56773, - "map_at_1000": 0.56773, - "recall_at_1": 0.19408, - "recall_at_3": 0.39362, - "recall_at_5": 0.50621, - "recall_at_10": 0.6546, - "recall_at_50": 0.80756, - "recall_at_100": 0.8193, - "recall_at_1000": 0.8193, - "precision_at_1": 0.68729, - "precision_at_3": 0.55563, - "precision_at_5": 0.46473, - "precision_at_10": 0.32489, - "precision_at_50": 0.084, - "precision_at_100": 0.04259, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.68713, - "mrr_at_3": 0.7522, - "mrr_at_5": 0.76074, - "mrr_at_10": 0.76549, - "mrr_at_50": 0.76724, - "mrr_at_100": 0.76728, - "mrr_at_1000": 0.76728 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.59344, - "ndcg_at_3": 0.55335, - "ndcg_at_5": 0.56513, - "ndcg_at_10": 0.6033, - "ndcg_at_50": 0.63473, - "ndcg_at_100": 0.63693, - "ndcg_at_1000": 0.63693, - "map_at_1": 0.26424, - "map_at_3": 0.41809, - "map_at_5": 0.46719, - "map_at_10": 0.50677, - "map_at_50": 0.52272, - "map_at_100": 0.52309, - "map_at_1000": 0.52309, - "recall_at_1": 0.26424, - "recall_at_3": 0.47834, - "recall_at_5": 0.56949, - "recall_at_10": 0.6737, - "recall_at_50": 0.76533, - "recall_at_100": 0.77548, - "recall_at_1000": 0.77548, - "precision_at_1": 0.59344, - "precision_at_3": 0.41242, - "precision_at_5": 0.31306, - "precision_at_10": 0.1966, - "precision_at_50": 0.04565, - "precision_at_100": 0.0231, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.59344, - "mrr_at_3": 0.67594, - "mrr_at_5": 0.68578, - "mrr_at_10": 0.69152, - "mrr_at_50": 0.69358, - "mrr_at_100": 0.69365, - "mrr_at_1000": 0.69365 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.5123, - "ndcg_at_3": 0.52909, - "ndcg_at_5": 0.5448, - "ndcg_at_10": 0.56488, - "ndcg_at_50": 0.58318, - "ndcg_at_100": 0.58405, - "ndcg_at_1000": 0.58405, - "map_at_1": 0.31757, - "map_at_3": 0.44824, - "map_at_5": 0.48396, - "map_at_10": 0.50865, - "map_at_50": 0.51835, - "map_at_100": 0.51845, - "map_at_1000": 0.51845, - "recall_at_1": 0.31757, - "recall_at_3": 0.50421, - "recall_at_5": 0.57544, - "recall_at_10": 0.63451, - "recall_at_50": 0.68823, - "recall_at_100": 0.69304, - "recall_at_1000": 0.69304, - "precision_at_1": 0.5123, - "precision_at_3": 0.32534, - "precision_at_5": 0.23975, - "precision_at_10": 0.14448, - "precision_at_50": 0.03266, - "precision_at_100": 0.0164, - "precision_at_1000": 0.00164, - "mrr_at_1": 0.5123, - "mrr_at_3": 0.57687, - "mrr_at_5": 0.58488, - "mrr_at_10": 0.58766, - "mrr_at_50": 0.5894, - "mrr_at_100": 0.58946, - "mrr_at_1000": 0.58946 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.71975, - "ndcg_at_3": 0.6566, - "ndcg_at_5": 0.66287, - "ndcg_at_10": 0.6807, - "ndcg_at_50": 0.69326, - "ndcg_at_100": 0.69398, - "ndcg_at_1000": 0.69398, - "map_at_1": 0.42177, - "map_at_3": 0.55645, - "map_at_5": 0.59154, - "map_at_10": 0.61208, - "map_at_50": 0.61793, - "map_at_100": 0.61806, - "map_at_1000": 0.61806, - "recall_at_1": 0.42177, - "recall_at_3": 0.59471, - "recall_at_5": 0.65527, - "recall_at_10": 0.70713, - "recall_at_50": 0.7455, - "recall_at_100": 0.74856, - "recall_at_1000": 0.74856, - "precision_at_1": 0.71975, - "precision_at_3": 0.40784, - "precision_at_5": 0.28801, - "precision_at_10": 0.1641, - "precision_at_50": 0.03536, - "precision_at_100": 0.01778, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.71975, - "mrr_at_3": 0.76887, - "mrr_at_5": 0.77286, - "mrr_at_10": 0.77544, - "mrr_at_50": 0.77646, - "mrr_at_100": 0.77648, - "mrr_at_1000": 0.77648 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.51589, - "ndcg_at_3": 0.46813, - "ndcg_at_5": 0.47641, - "ndcg_at_10": 0.50534, - "ndcg_at_50": 0.53949, - "ndcg_at_100": 0.54139, - "ndcg_at_1000": 0.54139, - "map_at_1": 0.21807, - "map_at_3": 0.33305, - "map_at_5": 0.37846, - "map_at_10": 0.41125, - "map_at_50": 0.42773, - "map_at_100": 0.42801, - "map_at_1000": 0.42801, - "recall_at_1": 0.21807, - "recall_at_3": 0.38248, - "recall_at_5": 0.46752, - "recall_at_10": 0.55949, - "recall_at_50": 0.65773, - "recall_at_100": 0.66718, - "recall_at_1000": 0.66718, - "precision_at_1": 0.51589, - "precision_at_3": 0.35336, - "precision_at_5": 0.27753, - "precision_at_10": 0.17371, - "precision_at_50": 0.04206, - "precision_at_100": 0.02124, - "precision_at_1000": 0.00212, - "mrr_at_1": 0.51589, - "mrr_at_3": 0.59349, - "mrr_at_5": 0.60435, - "mrr_at_10": 0.61078, - "mrr_at_50": 0.6131, - "mrr_at_100": 0.6132, - "mrr_at_1000": 0.6132 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.59402, - "ndcg_at_3": 0.55098, - "ndcg_at_5": 0.54893, - "ndcg_at_10": 0.57179, - "ndcg_at_50": 0.60493, - "ndcg_at_100": 0.60627, - "ndcg_at_1000": 0.60627, - "map_at_1": 0.28561, - "map_at_3": 0.40154, - "map_at_5": 0.44459, - "map_at_10": 0.48104, - "map_at_50": 0.49931, - "map_at_100": 0.49958, - "map_at_1000": 0.49958, - "recall_at_1": 0.28561, - "recall_at_3": 0.44887, - "recall_at_5": 0.52601, - "recall_at_10": 0.61116, - "recall_at_50": 0.69776, - "recall_at_100": 0.70321, - "recall_at_1000": 0.70321, - "precision_at_1": 0.59402, - "precision_at_3": 0.38742, - "precision_at_5": 0.29877, - "precision_at_10": 0.19104, - "precision_at_50": 0.04628, - "precision_at_100": 0.02336, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.59402, - "mrr_at_3": 0.66667, - "mrr_at_5": 0.67686, - "mrr_at_10": 0.68194, - "mrr_at_50": 0.68378, - "mrr_at_100": 0.68379, - "mrr_at_1000": 0.68379 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.71387, - "ndcg_at_3": 0.65827, - "ndcg_at_5": 0.65699, - "ndcg_at_10": 0.69656, - "ndcg_at_50": 0.74093, - "ndcg_at_100": 0.74365, - "ndcg_at_1000": 0.74365, - "map_at_1": 0.23337, - "map_at_3": 0.44148, - "map_at_5": 0.5231, - "map_at_10": 0.58826, - "map_at_50": 0.61407, - "map_at_100": 0.61463, - "map_at_1000": 0.61463, - "recall_at_1": 0.23337, - "recall_at_3": 0.49564, - "recall_at_5": 0.62611, - "recall_at_10": 0.75511, - "recall_at_50": 0.878, - "recall_at_100": 0.8899, - "recall_at_1000": 0.8899, - "precision_at_1": 0.71387, - "precision_at_3": 0.55973, - "precision_at_5": 0.44566, - "precision_at_10": 0.28873, - "precision_at_50": 0.06809, - "precision_at_100": 0.03442, - "precision_at_1000": 0.00344, - "mrr_at_1": 0.71387, - "mrr_at_3": 0.79143, - "mrr_at_5": 0.80183, - "mrr_at_10": 0.80394, - "mrr_at_50": 0.80536, - "mrr_at_100": 0.80539, - "mrr_at_1000": 0.80539 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.7027, - "ndcg_at_3": 0.63283, - "ndcg_at_5": 0.63203, - "ndcg_at_10": 0.67493, - "ndcg_at_50": 0.7278, - "ndcg_at_100": 0.72899, - "ndcg_at_1000": 0.72899, - "map_at_1": 0.21296, - "map_at_3": 0.39228, - "map_at_5": 0.48451, - "map_at_10": 0.56588, - "map_at_50": 0.60121, - "map_at_100": 0.60141, - "map_at_1000": 0.60141, - "recall_at_1": 0.21296, - "recall_at_3": 0.42994, - "recall_at_5": 0.56415, - "recall_at_10": 0.72191, - "recall_at_50": 0.85413, - "recall_at_100": 0.85973, - "recall_at_1000": 0.85973, - "precision_at_1": 0.7027, - "precision_at_3": 0.55255, - "precision_at_5": 0.46547, - "precision_at_10": 0.31562, - "precision_at_50": 0.07658, - "precision_at_100": 0.03844, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.6997, - "mrr_at_3": 0.77377, - "mrr_at_5": 0.78158, - "mrr_at_10": 0.78547, - "mrr_at_50": 0.78697, - "mrr_at_100": 0.78701, - "mrr_at_1000": 0.78701 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71302, - "ndcg_at_3": 0.64647, - "ndcg_at_5": 0.63825, - "ndcg_at_10": 0.67426, - "ndcg_at_50": 0.71802, - "ndcg_at_100": 0.71936, - "ndcg_at_1000": 0.71936, - "map_at_1": 0.22013, - "map_at_3": 0.4058, - "map_at_5": 0.49145, - "map_at_10": 0.56945, - "map_at_50": 0.59784, - "map_at_100": 0.59817, - "map_at_1000": 0.59817, - "recall_at_1": 0.22013, - "recall_at_3": 0.44195, - "recall_at_5": 0.5737, - "recall_at_10": 0.72068, - "recall_at_50": 0.82975, - "recall_at_100": 0.83541, - "recall_at_1000": 0.83541, - "precision_at_1": 0.71302, - "precision_at_3": 0.55325, - "precision_at_5": 0.45503, - "precision_at_10": 0.30858, - "precision_at_50": 0.07325, - "precision_at_100": 0.03683, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.71302, - "mrr_at_3": 0.77318, - "mrr_at_5": 0.78028, - "mrr_at_10": 0.7864, - "mrr_at_50": 0.78802, - "mrr_at_100": 0.78808, - "mrr_at_1000": 0.78808 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.74631, - "ndcg_at_3": 0.68002, - "ndcg_at_5": 0.68708, - "ndcg_at_10": 0.73723, - "ndcg_at_50": 0.77997, - "ndcg_at_100": 0.78168, - "ndcg_at_1000": 0.78168, - "map_at_1": 0.25794, - "map_at_3": 0.4733, - "map_at_5": 0.56022, - "map_at_10": 0.63599, - "map_at_50": 0.66331, - "map_at_100": 0.66369, - "map_at_1000": 0.66369, - "recall_at_1": 0.25794, - "recall_at_3": 0.5127, - "recall_at_5": 0.6486, - "recall_at_10": 0.79555, - "recall_at_50": 0.90729, - "recall_at_100": 0.91452, - "recall_at_1000": 0.91452, - "precision_at_1": 0.74631, - "precision_at_3": 0.57129, - "precision_at_5": 0.46136, - "precision_at_10": 0.3056, - "precision_at_50": 0.07174, - "precision_at_100": 0.03611, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.74631, - "mrr_at_3": 0.81465, - "mrr_at_5": 0.82129, - "mrr_at_10": 0.82443, - "mrr_at_50": 0.8257, - "mrr_at_100": 0.8257, - "mrr_at_1000": 0.8257 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.79891, - "ndcg_at_3": 0.73923, - "ndcg_at_5": 0.72416, - "ndcg_at_10": 0.77213, - "ndcg_at_50": 0.82361, - "ndcg_at_100": 0.82482, - "ndcg_at_1000": 0.82482, - "map_at_1": 0.29406, - "map_at_3": 0.51358, - "map_at_5": 0.59445, - "map_at_10": 0.67332, - "map_at_50": 0.70782, - "map_at_100": 0.70813, - "map_at_1000": 0.70813, - "recall_at_1": 0.29406, - "recall_at_3": 0.54995, - "recall_at_5": 0.66641, - "recall_at_10": 0.8179, - "recall_at_50": 0.94463, - "recall_at_100": 0.94898, - "recall_at_1000": 0.94898, - "precision_at_1": 0.79891, - "precision_at_3": 0.60417, - "precision_at_5": 0.47446, - "precision_at_10": 0.31495, - "precision_at_50": 0.07625, - "precision_at_100": 0.03834, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.79891, - "mrr_at_3": 0.85824, - "mrr_at_5": 0.86409, - "mrr_at_10": 0.86766, - "mrr_at_50": 0.86849, - "mrr_at_100": 0.86849, - "mrr_at_1000": 0.86849 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.64583, - "ndcg_at_3": 0.59515, - "ndcg_at_5": 0.60108, - "ndcg_at_10": 0.63927, - "ndcg_at_50": 0.68209, - "ndcg_at_100": 0.68595, - "ndcg_at_1000": 0.68595, - "map_at_1": 0.27996, - "map_at_3": 0.44918, - "map_at_5": 0.506, - "map_at_10": 0.5504, - "map_at_50": 0.5727, - "map_at_100": 0.57345, - "map_at_1000": 0.57345, - "recall_at_1": 0.27996, - "recall_at_3": 0.49647, - "recall_at_5": 0.59169, - "recall_at_10": 0.69638, - "recall_at_50": 0.81962, - "recall_at_100": 0.83639, - "recall_at_1000": 0.83639, - "precision_at_1": 0.64583, - "precision_at_3": 0.44742, - "precision_at_5": 0.34583, - "precision_at_10": 0.21845, - "precision_at_50": 0.0531, - "precision_at_100": 0.02708, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.64583, - "mrr_at_3": 0.71081, - "mrr_at_5": 0.7187, - "mrr_at_10": 0.7235, - "mrr_at_50": 0.72542, - "mrr_at_100": 0.72554, - "mrr_at_1000": 0.72554 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.67042, - "ndcg_at_3": 0.6329, - "ndcg_at_5": 0.64872, - "ndcg_at_10": 0.70203, - "ndcg_at_50": 0.73354, - "ndcg_at_100": 0.73433, - "ndcg_at_1000": 0.73433, - "map_at_1": 0.31814, - "map_at_3": 0.49908, - "map_at_5": 0.54861, - "map_at_10": 0.59603, - "map_at_50": 0.61281, - "map_at_100": 0.61292, - "map_at_1000": 0.61292, - "recall_at_1": 0.31814, - "recall_at_3": 0.57758, - "recall_at_5": 0.67667, - "recall_at_10": 0.79717, - "recall_at_50": 0.88757, - "recall_at_100": 0.89179, - "recall_at_1000": 0.89179, - "precision_at_1": 0.67042, - "precision_at_3": 0.45352, - "precision_at_5": 0.33296, - "precision_at_10": 0.21296, - "precision_at_50": 0.0489, - "precision_at_100": 0.02454, - "precision_at_1000": 0.00245, - "mrr_at_1": 0.67324, - "mrr_at_3": 0.76573, - "mrr_at_5": 0.77685, - "mrr_at_10": 0.77959, - "mrr_at_50": 0.78066, - "mrr_at_100": 0.78069, - "mrr_at_1000": 0.78069 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.65826, - "ndcg_at_3": 0.62135, - "ndcg_at_5": 0.63221, - "ndcg_at_10": 0.679, - "ndcg_at_50": 0.72347, - "ndcg_at_100": 0.72464, - "ndcg_at_1000": 0.72464, - "map_at_1": 0.32244, - "map_at_3": 0.49846, - "map_at_5": 0.54155, - "map_at_10": 0.5814, - "map_at_50": 0.60238, - "map_at_100": 0.60255, - "map_at_1000": 0.60255, - "recall_at_1": 0.32244, - "recall_at_3": 0.56792, - "recall_at_5": 0.64871, - "recall_at_10": 0.76018, - "recall_at_50": 0.89157, - "recall_at_100": 0.89809, - "recall_at_1000": 0.89809, - "precision_at_1": 0.65826, - "precision_at_3": 0.44351, - "precision_at_5": 0.31933, - "precision_at_10": 0.19832, - "precision_at_50": 0.04857, - "precision_at_100": 0.0244, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.65826, - "mrr_at_3": 0.7507, - "mrr_at_5": 0.75546, - "mrr_at_10": 0.76122, - "mrr_at_50": 0.76328, - "mrr_at_100": 0.76335, - "mrr_at_1000": 0.76335 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.68817, - "ndcg_at_3": 0.63533, - "ndcg_at_5": 0.6487, - "ndcg_at_10": 0.69547, - "ndcg_at_50": 0.72705, - "ndcg_at_100": 0.72966, - "ndcg_at_1000": 0.72966, - "map_at_1": 0.36373, - "map_at_3": 0.52256, - "map_at_5": 0.56674, - "map_at_10": 0.60429, - "map_at_50": 0.62053, - "map_at_100": 0.6209, - "map_at_1000": 0.6209, - "recall_at_1": 0.36373, - "recall_at_3": 0.575, - "recall_at_5": 0.66069, - "recall_at_10": 0.7656, - "recall_at_50": 0.85445, - "recall_at_100": 0.86718, - "recall_at_1000": 0.86718, - "precision_at_1": 0.68817, - "precision_at_3": 0.42742, - "precision_at_5": 0.31613, - "precision_at_10": 0.19651, - "precision_at_50": 0.04608, - "precision_at_100": 0.02333, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.68817, - "mrr_at_3": 0.7621, - "mrr_at_5": 0.7703, - "mrr_at_10": 0.77504, - "mrr_at_50": 0.77608, - "mrr_at_100": 0.77619, - "mrr_at_1000": 0.77619 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.58197, - "ndcg_at_3": 0.55927, - "ndcg_at_5": 0.57022, - "ndcg_at_10": 0.616, - "ndcg_at_50": 0.67135, - "ndcg_at_100": 0.67595, - "ndcg_at_1000": 0.67595, - "map_at_1": 0.25205, - "map_at_3": 0.41352, - "map_at_5": 0.46488, - "map_at_10": 0.51273, - "map_at_50": 0.54, - "map_at_100": 0.54073, - "map_at_1000": 0.54073, - "recall_at_1": 0.25205, - "recall_at_3": 0.47865, - "recall_at_5": 0.57262, - "recall_at_10": 0.6859, - "recall_at_50": 0.85046, - "recall_at_100": 0.8726, - "recall_at_1000": 0.8726, - "precision_at_1": 0.58197, - "precision_at_3": 0.42987, - "precision_at_5": 0.33333, - "precision_at_10": 0.21503, - "precision_at_50": 0.05421, - "precision_at_100": 0.02762, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.58197, - "mrr_at_3": 0.69308, - "mrr_at_5": 0.70223, - "mrr_at_10": 0.70607, - "mrr_at_50": 0.70895, - "mrr_at_100": 0.70917, - "mrr_at_1000": 0.70917 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.5973, - "ndcg_at_3": 0.60497, - "ndcg_at_5": 0.64139, - "ndcg_at_10": 0.6998, - "ndcg_at_50": 0.73879, - "ndcg_at_100": 0.74201, - "ndcg_at_1000": 0.74201, - "map_at_1": 0.34429, - "map_at_3": 0.50837, - "map_at_5": 0.56093, - "map_at_10": 0.60727, - "map_at_50": 0.62524, - "map_at_100": 0.62579, - "map_at_1000": 0.62579, - "recall_at_1": 0.34429, - "recall_at_3": 0.58813, - "recall_at_5": 0.69486, - "recall_at_10": 0.82965, - "recall_at_50": 0.9555, - "recall_at_100": 0.97077, - "recall_at_1000": 0.97077, - "precision_at_1": 0.5973, - "precision_at_3": 0.3973, - "precision_at_5": 0.30378, - "precision_at_10": 0.19378, - "precision_at_50": 0.0453, - "precision_at_100": 0.023, - "precision_at_1000": 0.0023, - "mrr_at_1": 0.5973, - "mrr_at_3": 0.6982, - "mrr_at_5": 0.70955, - "mrr_at_10": 0.71636, - "mrr_at_50": 0.71939, - "mrr_at_100": 0.71952, - "mrr_at_1000": 0.71952 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.48773, - "ndcg_at_3": 0.53567, - "ndcg_at_5": 0.57646, - "ndcg_at_10": 0.62607, - "ndcg_at_50": 0.65797, - "ndcg_at_100": 0.66037, - "ndcg_at_1000": 0.66037, - "map_at_1": 0.32917, - "map_at_3": 0.46066, - "map_at_5": 0.50322, - "map_at_10": 0.53867, - "map_at_50": 0.55163, - "map_at_100": 0.55191, - "map_at_1000": 0.55191, - "recall_at_1": 0.32917, - "recall_at_3": 0.54942, - "recall_at_5": 0.65255, - "recall_at_10": 0.7704, - "recall_at_50": 0.87725, - "recall_at_100": 0.89054, - "recall_at_1000": 0.89054, - "precision_at_1": 0.48773, - "precision_at_3": 0.32004, - "precision_at_5": 0.24356, - "precision_at_10": 0.15245, - "precision_at_50": 0.03485, - "precision_at_100": 0.01764, - "precision_at_1000": 0.00176, - "mrr_at_1": 0.48773, - "mrr_at_3": 0.60072, - "mrr_at_5": 0.61851, - "mrr_at_10": 0.62686, - "mrr_at_50": 0.63082, - "mrr_at_100": 0.63091, - "mrr_at_1000": 0.63091 - }, - "gpt3": { - "ndcg_at_1": 0.40653, - "ndcg_at_3": 0.51106, - "ndcg_at_5": 0.55263, - "ndcg_at_10": 0.58736, - "ndcg_at_50": 0.62082, - "ndcg_at_100": 0.62583, - "ndcg_at_1000": 0.62583, - "map_at_1": 0.3185, - "map_at_3": 0.45767, - "map_at_5": 0.48656, - "map_at_10": 0.5056, - "map_at_50": 0.51483, - "map_at_100": 0.51543, - "map_at_1000": 0.51543, - "recall_at_1": 0.3185, - "recall_at_3": 0.58358, - "recall_at_5": 0.67458, - "recall_at_10": 0.76632, - "recall_at_50": 0.90158, - "recall_at_100": 0.92928, - "recall_at_1000": 0.92928, - "precision_at_1": 0.40653, - "precision_at_3": 0.26508, - "precision_at_5": 0.1905, - "precision_at_10": 0.11187, - "precision_at_50": 0.02647, - "precision_at_100": 0.01362, - "precision_at_1000": 0.00136, - "mrr_at_1": 0.40653, - "mrr_at_3": 0.53165, - "mrr_at_5": 0.55109, - "mrr_at_10": 0.55914, - "mrr_at_50": 0.5641, - "mrr_at_100": 0.56443, - "mrr_at_1000": 0.56443 - }, - "llm-survey": { - "ndcg_at_1": 0.54342, - "ndcg_at_3": 0.51689, - "ndcg_at_5": 0.5372, - "ndcg_at_10": 0.58289, - "ndcg_at_50": 0.62678, - "ndcg_at_100": 0.62989, - "ndcg_at_1000": 0.62989, - "map_at_1": 0.25811, - "map_at_3": 0.41257, - "map_at_5": 0.45404, - "map_at_10": 0.4921, - "map_at_50": 0.51219, - "map_at_100": 0.51258, - "map_at_1000": 0.51258, - "recall_at_1": 0.25811, - "recall_at_3": 0.46467, - "recall_at_5": 0.56006, - "recall_at_10": 0.67505, - "recall_at_50": 0.81197, - "recall_at_100": 0.82866, - "recall_at_1000": 0.82866, - "precision_at_1": 0.54342, - "precision_at_3": 0.37442, - "precision_at_5": 0.27899, - "precision_at_10": 0.17871, - "precision_at_50": 0.04364, - "precision_at_100": 0.0221, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.54342, - "mrr_at_3": 0.61204, - "mrr_at_5": 0.62997, - "mrr_at_10": 0.63802, - "mrr_at_50": 0.64195, - "mrr_at_100": 0.64221, - "mrr_at_1000": 0.64221 - }, - "gemini": { - "ndcg_at_1": 0.40562, - "ndcg_at_3": 0.57711, - "ndcg_at_5": 0.60235, - "ndcg_at_10": 0.62479, - "ndcg_at_50": 0.64866, - "ndcg_at_100": 0.64997, - "ndcg_at_1000": 0.64997, - "map_at_1": 0.40562, - "map_at_3": 0.53748, - "map_at_5": 0.55174, - "map_at_10": 0.5612, - "map_at_50": 0.56673, - "map_at_100": 0.56685, - "map_at_1000": 0.56685, - "recall_at_1": 0.40562, - "recall_at_3": 0.69076, - "recall_at_5": 0.751, - "recall_at_10": 0.81928, - "recall_at_50": 0.92369, - "recall_at_100": 0.93173, - "recall_at_1000": 0.93173, - "precision_at_1": 0.40562, - "precision_at_3": 0.23025, - "precision_at_5": 0.1502, - "precision_at_10": 0.08193, - "precision_at_50": 0.01847, - "precision_at_100": 0.00932, - "precision_at_1000": 0.00093, - "mrr_at_1": 0.40562, - "mrr_at_3": 0.53748, - "mrr_at_5": 0.55154, - "mrr_at_10": 0.561, - "mrr_at_50": 0.56652, - "mrr_at_100": 0.56664, - "mrr_at_1000": 0.56664 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.31594, - "ndcg_at_3": 0.27998, - "ndcg_at_5": 0.28046, - "ndcg_at_10": 0.2983, - "ndcg_at_50": 0.32655, - "ndcg_at_100": 0.32929, - "ndcg_at_1000": 0.32929, - "map_at_1": 0.11758, - "map_at_3": 0.18335, - "map_at_5": 0.21021, - "map_at_10": 0.23635, - "map_at_50": 0.25038, - "map_at_100": 0.25079, - "map_at_1000": 0.25079, - "recall_at_1": 0.11758, - "recall_at_3": 0.21253, - "recall_at_5": 0.26336, - "recall_at_10": 0.32948, - "recall_at_50": 0.40934, - "recall_at_100": 0.42198, - "recall_at_1000": 0.42198, - "precision_at_1": 0.31594, - "precision_at_3": 0.21914, - "precision_at_5": 0.17446, - "precision_at_10": 0.11755, - "precision_at_50": 0.03027, - "precision_at_100": 0.01549, - "precision_at_1000": 0.00155, - "mrr_at_1": 0.31594, - "mrr_at_3": 0.36045, - "mrr_at_5": 0.36922, - "mrr_at_10": 0.37427, - "mrr_at_50": 0.37712, - "mrr_at_100": 0.37727, - "mrr_at_1000": 0.37727 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.5285, - "ndcg_at_3": 0.51238, - "ndcg_at_5": 0.52007, - "ndcg_at_10": 0.54547, - "ndcg_at_50": 0.58895, - "ndcg_at_100": 0.59201, - "ndcg_at_1000": 0.59201, - "map_at_1": 0.22473, - "map_at_3": 0.35238, - "map_at_5": 0.40695, - "map_at_10": 0.45618, - "map_at_50": 0.48241, - "map_at_100": 0.48294, - "map_at_1000": 0.48294, - "recall_at_1": 0.22473, - "recall_at_3": 0.40164, - "recall_at_5": 0.49415, - "recall_at_10": 0.60053, - "recall_at_50": 0.71355, - "recall_at_100": 0.72714, - "recall_at_1000": 0.72714, - "precision_at_1": 0.5285, - "precision_at_3": 0.3891, - "precision_at_5": 0.3197, - "precision_at_10": 0.21543, - "precision_at_50": 0.05449, - "precision_at_100": 0.02767, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.52912, - "mrr_at_3": 0.61121, - "mrr_at_5": 0.62351, - "mrr_at_10": 0.6299, - "mrr_at_50": 0.63218, - "mrr_at_100": 0.63228, - "mrr_at_1000": 0.63228 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.59582, - "ndcg_at_3": 0.55358, - "ndcg_at_5": 0.54326, - "ndcg_at_10": 0.5714, - "ndcg_at_50": 0.64889, - "ndcg_at_100": 0.65318, - "ndcg_at_1000": 0.65318, - "map_at_1": 0.1576, - "map_at_3": 0.29723, - "map_at_5": 0.36997, - "map_at_10": 0.45269, - "map_at_50": 0.50263, - "map_at_100": 0.50363, - "map_at_1000": 0.50363, - "recall_at_1": 0.1576, - "recall_at_3": 0.33726, - "recall_at_5": 0.45178, - "recall_at_10": 0.61229, - "recall_at_50": 0.80237, - "recall_at_100": 0.8193, - "recall_at_1000": 0.8193, - "precision_at_1": 0.59582, - "precision_at_3": 0.49058, - "precision_at_5": 0.42273, - "precision_at_10": 0.30848, - "precision_at_50": 0.08373, - "precision_at_100": 0.04259, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.59582, - "mrr_at_3": 0.67954, - "mrr_at_5": 0.69288, - "mrr_at_10": 0.69928, - "mrr_at_50": 0.70167, - "mrr_at_100": 0.70175, - "mrr_at_1000": 0.70175 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.52783, - "ndcg_at_3": 0.48434, - "ndcg_at_5": 0.49636, - "ndcg_at_10": 0.53438, - "ndcg_at_50": 0.57906, - "ndcg_at_100": 0.58492, - "ndcg_at_1000": 0.58492, - "map_at_1": 0.22081, - "map_at_3": 0.35257, - "map_at_5": 0.39677, - "map_at_10": 0.43373, - "map_at_50": 0.45274, - "map_at_100": 0.45368, - "map_at_1000": 0.45368, - "recall_at_1": 0.22081, - "recall_at_3": 0.41214, - "recall_at_5": 0.50007, - "recall_at_10": 0.60631, - "recall_at_50": 0.74778, - "recall_at_100": 0.77548, - "recall_at_1000": 0.77548, - "precision_at_1": 0.52783, - "precision_at_3": 0.36692, - "precision_at_5": 0.28307, - "precision_at_10": 0.17967, - "precision_at_50": 0.04479, - "precision_at_100": 0.0231, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.52841, - "mrr_at_3": 0.61531, - "mrr_at_5": 0.62814, - "mrr_at_10": 0.6346, - "mrr_at_50": 0.63773, - "mrr_at_100": 0.63793, - "mrr_at_1000": 0.63793 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.47571, - "ndcg_at_3": 0.4861, - "ndcg_at_5": 0.50483, - "ndcg_at_10": 0.53042, - "ndcg_at_50": 0.5521, - "ndcg_at_100": 0.55382, - "ndcg_at_1000": 0.55382, - "map_at_1": 0.28773, - "map_at_3": 0.40428, - "map_at_5": 0.44239, - "map_at_10": 0.47013, - "map_at_50": 0.47992, - "map_at_100": 0.48014, - "map_at_1000": 0.48014, - "recall_at_1": 0.28773, - "recall_at_3": 0.45846, - "recall_at_5": 0.53535, - "recall_at_10": 0.61177, - "recall_at_50": 0.68374, - "recall_at_100": 0.69304, - "recall_at_1000": 0.69304, - "precision_at_1": 0.47571, - "precision_at_3": 0.30578, - "precision_at_5": 0.23117, - "precision_at_10": 0.1424, - "precision_at_50": 0.0325, - "precision_at_100": 0.0164, - "precision_at_1000": 0.00164, - "mrr_at_1": 0.47571, - "mrr_at_3": 0.53607, - "mrr_at_5": 0.54449, - "mrr_at_10": 0.55018, - "mrr_at_50": 0.55238, - "mrr_at_100": 0.55251, - "mrr_at_1000": 0.55251 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.63347, - "ndcg_at_3": 0.59208, - "ndcg_at_5": 0.60636, - "ndcg_at_10": 0.63128, - "ndcg_at_50": 0.65, - "ndcg_at_100": 0.65084, - "ndcg_at_1000": 0.65084, - "map_at_1": 0.36512, - "map_at_3": 0.4887, - "map_at_5": 0.52496, - "map_at_10": 0.54988, - "map_at_50": 0.55867, - "map_at_100": 0.55879, - "map_at_1000": 0.55879, - "recall_at_1": 0.36512, - "recall_at_3": 0.54631, - "recall_at_5": 0.62021, - "recall_at_10": 0.68695, - "recall_at_50": 0.74455, - "recall_at_100": 0.74856, - "recall_at_1000": 0.74856, - "precision_at_1": 0.63347, - "precision_at_3": 0.37213, - "precision_at_5": 0.2696, - "precision_at_10": 0.15906, - "precision_at_50": 0.03536, - "precision_at_100": 0.01778, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.63405, - "mrr_at_3": 0.70681, - "mrr_at_5": 0.71608, - "mrr_at_10": 0.71899, - "mrr_at_50": 0.72059, - "mrr_at_100": 0.72061, - "mrr_at_1000": 0.72061 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.49856, - "ndcg_at_3": 0.44506, - "ndcg_at_5": 0.45037, - "ndcg_at_10": 0.48456, - "ndcg_at_50": 0.51978, - "ndcg_at_100": 0.52356, - "ndcg_at_1000": 0.52356, - "map_at_1": 0.19941, - "map_at_3": 0.30627, - "map_at_5": 0.34891, - "map_at_10": 0.38613, - "map_at_50": 0.40228, - "map_at_100": 0.40283, - "map_at_1000": 0.40283, - "recall_at_1": 0.19941, - "recall_at_3": 0.35763, - "recall_at_5": 0.44139, - "recall_at_10": 0.54147, - "recall_at_50": 0.64873, - "recall_at_100": 0.66718, - "recall_at_1000": 0.66718, - "precision_at_1": 0.49856, - "precision_at_3": 0.34142, - "precision_at_5": 0.26574, - "precision_at_10": 0.17221, - "precision_at_50": 0.04162, - "precision_at_100": 0.02124, - "precision_at_1000": 0.00212, - "mrr_at_1": 0.49913, - "mrr_at_3": 0.57953, - "mrr_at_5": 0.58961, - "mrr_at_10": 0.59598, - "mrr_at_50": 0.59863, - "mrr_at_100": 0.59881, - "mrr_at_1000": 0.59881 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.5126, - "ndcg_at_3": 0.49002, - "ndcg_at_5": 0.49365, - "ndcg_at_10": 0.52497, - "ndcg_at_50": 0.56427, - "ndcg_at_100": 0.56647, - "ndcg_at_1000": 0.56647, - "map_at_1": 0.24247, - "map_at_3": 0.34745, - "map_at_5": 0.38856, - "map_at_10": 0.42777, - "map_at_50": 0.44789, - "map_at_100": 0.44835, - "map_at_1000": 0.44835, - "recall_at_1": 0.24247, - "recall_at_3": 0.40257, - "recall_at_5": 0.48315, - "recall_at_10": 0.58838, - "recall_at_50": 0.69409, - "recall_at_100": 0.70321, - "recall_at_1000": 0.70321, - "precision_at_1": 0.5126, - "precision_at_3": 0.34915, - "precision_at_5": 0.2751, - "precision_at_10": 0.18231, - "precision_at_50": 0.04605, - "precision_at_100": 0.02336, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.5126, - "mrr_at_3": 0.60076, - "mrr_at_5": 0.61429, - "mrr_at_10": 0.62267, - "mrr_at_50": 0.62486, - "mrr_at_100": 0.62491, - "mrr_at_1000": 0.62491 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.61561, - "ndcg_at_3": 0.57621, - "ndcg_at_5": 0.58202, - "ndcg_at_10": 0.63418, - "ndcg_at_50": 0.69286, - "ndcg_at_100": 0.69652, - "ndcg_at_1000": 0.69652, - "map_at_1": 0.19506, - "map_at_3": 0.3661, - "map_at_5": 0.44026, - "map_at_10": 0.51076, - "map_at_50": 0.54703, - "map_at_100": 0.54754, - "map_at_1000": 0.54754, - "recall_at_1": 0.19506, - "recall_at_3": 0.42619, - "recall_at_5": 0.55746, - "recall_at_10": 0.71453, - "recall_at_50": 0.87082, - "recall_at_100": 0.8899, - "recall_at_1000": 0.8899, - "precision_at_1": 0.61561, - "precision_at_3": 0.49807, - "precision_at_5": 0.40809, - "precision_at_10": 0.27457, - "precision_at_50": 0.06809, - "precision_at_100": 0.03442, - "precision_at_1000": 0.00344, - "mrr_at_1": 0.61561, - "mrr_at_3": 0.72062, - "mrr_at_5": 0.73391, - "mrr_at_10": 0.73776, - "mrr_at_50": 0.73972, - "mrr_at_100": 0.73988, - "mrr_at_1000": 0.73988 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.63063, - "ndcg_at_3": 0.58093, - "ndcg_at_5": 0.56638, - "ndcg_at_10": 0.61833, - "ndcg_at_50": 0.68499, - "ndcg_at_100": 0.68711, - "ndcg_at_1000": 0.68711, - "map_at_1": 0.1785, - "map_at_3": 0.34212, - "map_at_5": 0.41443, - "map_at_10": 0.50065, - "map_at_50": 0.54091, - "map_at_100": 0.54133, - "map_at_1000": 0.54133, - "recall_at_1": 0.1785, - "recall_at_3": 0.38516, - "recall_at_5": 0.49787, - "recall_at_10": 0.67239, - "recall_at_50": 0.8501, - "recall_at_100": 0.85973, - "recall_at_1000": 0.85973, - "precision_at_1": 0.63063, - "precision_at_3": 0.51752, - "precision_at_5": 0.42402, - "precision_at_10": 0.3021, - "precision_at_50": 0.07628, - "precision_at_100": 0.03844, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.63063, - "mrr_at_3": 0.71872, - "mrr_at_5": 0.72608, - "mrr_at_10": 0.73134, - "mrr_at_50": 0.73462, - "mrr_at_100": 0.73466, - "mrr_at_1000": 0.73466 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.69527, - "ndcg_at_3": 0.61932, - "ndcg_at_5": 0.61072, - "ndcg_at_10": 0.64784, - "ndcg_at_50": 0.69879, - "ndcg_at_100": 0.70161, - "ndcg_at_1000": 0.70161, - "map_at_1": 0.20808, - "map_at_3": 0.38113, - "map_at_5": 0.45897, - "map_at_10": 0.53934, - "map_at_50": 0.57064, - "map_at_100": 0.57123, - "map_at_1000": 0.57123, - "recall_at_1": 0.20808, - "recall_at_3": 0.41648, - "recall_at_5": 0.53352, - "recall_at_10": 0.68899, - "recall_at_50": 0.8228, - "recall_at_100": 0.83541, - "recall_at_1000": 0.83541, - "precision_at_1": 0.69527, - "precision_at_3": 0.52564, - "precision_at_5": 0.43905, - "precision_at_10": 0.30089, - "precision_at_50": 0.0729, - "precision_at_100": 0.03683, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.69527, - "mrr_at_3": 0.7569, - "mrr_at_5": 0.76519, - "mrr_at_10": 0.76948, - "mrr_at_50": 0.77173, - "mrr_at_100": 0.77181, - "mrr_at_1000": 0.77181 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.70206, - "ndcg_at_3": 0.64716, - "ndcg_at_5": 0.64599, - "ndcg_at_10": 0.70078, - "ndcg_at_50": 0.75463, - "ndcg_at_100": 0.75557, - "ndcg_at_1000": 0.75557, - "map_at_1": 0.2354, - "map_at_3": 0.43653, - "map_at_5": 0.51289, - "map_at_10": 0.59095, - "map_at_50": 0.62415, - "map_at_100": 0.62439, - "map_at_1000": 0.62439, - "recall_at_1": 0.2354, - "recall_at_3": 0.4859, - "recall_at_5": 0.60807, - "recall_at_10": 0.76741, - "recall_at_50": 0.91081, - "recall_at_100": 0.91452, - "recall_at_1000": 0.91452, - "precision_at_1": 0.70206, - "precision_at_3": 0.55261, - "precision_at_5": 0.43835, - "precision_at_10": 0.29528, - "precision_at_50": 0.07192, - "precision_at_100": 0.03611, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.70206, - "mrr_at_3": 0.78024, - "mrr_at_5": 0.78938, - "mrr_at_10": 0.79428, - "mrr_at_50": 0.79599, - "mrr_at_100": 0.79599, - "mrr_at_1000": 0.79599 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.79076, - "ndcg_at_3": 0.72395, - "ndcg_at_5": 0.7138, - "ndcg_at_10": 0.76421, - "ndcg_at_50": 0.81476, - "ndcg_at_100": 0.81719, - "ndcg_at_1000": 0.81719, - "map_at_1": 0.28687, - "map_at_3": 0.49586, - "map_at_5": 0.57921, - "map_at_10": 0.66077, - "map_at_50": 0.6937, - "map_at_100": 0.69436, - "map_at_1000": 0.69436, - "recall_at_1": 0.28687, - "recall_at_3": 0.53504, - "recall_at_5": 0.6563, - "recall_at_10": 0.80871, - "recall_at_50": 0.94043, - "recall_at_100": 0.94898, - "recall_at_1000": 0.94898, - "precision_at_1": 0.79076, - "precision_at_3": 0.58967, - "precision_at_5": 0.47174, - "precision_at_10": 0.31685, - "precision_at_50": 0.07576, - "precision_at_100": 0.03834, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.79076, - "mrr_at_3": 0.85824, - "mrr_at_5": 0.8649, - "mrr_at_10": 0.86596, - "mrr_at_50": 0.8672, - "mrr_at_100": 0.8672, - "mrr_at_1000": 0.8672 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.61012, - "ndcg_at_3": 0.57386, - "ndcg_at_5": 0.58401, - "ndcg_at_10": 0.62109, - "ndcg_at_50": 0.66548, - "ndcg_at_100": 0.67029, - "ndcg_at_1000": 0.67029, - "map_at_1": 0.25569, - "map_at_3": 0.42628, - "map_at_5": 0.48864, - "map_at_10": 0.53365, - "map_at_50": 0.55634, - "map_at_100": 0.55717, - "map_at_1000": 0.55717, - "recall_at_1": 0.25569, - "recall_at_3": 0.47225, - "recall_at_5": 0.57497, - "recall_at_10": 0.68245, - "recall_at_50": 0.81326, - "recall_at_100": 0.83639, - "recall_at_1000": 0.83639, - "precision_at_1": 0.61012, - "precision_at_3": 0.44444, - "precision_at_5": 0.35119, - "precision_at_10": 0.21994, - "precision_at_50": 0.0531, - "precision_at_100": 0.02708, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.61012, - "mrr_at_3": 0.67857, - "mrr_at_5": 0.68914, - "mrr_at_10": 0.69437, - "mrr_at_50": 0.69695, - "mrr_at_100": 0.69715, - "mrr_at_1000": 0.69715 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.63099, - "ndcg_at_3": 0.57403, - "ndcg_at_5": 0.59624, - "ndcg_at_10": 0.66061, - "ndcg_at_50": 0.69722, - "ndcg_at_100": 0.69878, - "ndcg_at_1000": 0.69878, - "map_at_1": 0.28971, - "map_at_3": 0.44303, - "map_at_5": 0.49674, - "map_at_10": 0.55032, - "map_at_50": 0.56756, - "map_at_100": 0.56778, - "map_at_1000": 0.56778, - "recall_at_1": 0.28971, - "recall_at_3": 0.51135, - "recall_at_5": 0.61785, - "recall_at_10": 0.77089, - "recall_at_50": 0.88362, - "recall_at_100": 0.89179, - "recall_at_1000": 0.89179, - "precision_at_1": 0.63099, - "precision_at_3": 0.41784, - "precision_at_5": 0.32, - "precision_at_10": 0.21155, - "precision_at_50": 0.04873, - "precision_at_100": 0.02454, - "precision_at_1000": 0.00245, - "mrr_at_1": 0.6338, - "mrr_at_3": 0.71643, - "mrr_at_5": 0.7277, - "mrr_at_10": 0.73487, - "mrr_at_50": 0.73727, - "mrr_at_100": 0.73733, - "mrr_at_1000": 0.73733 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63025, - "ndcg_at_3": 0.57292, - "ndcg_at_5": 0.59587, - "ndcg_at_10": 0.65296, - "ndcg_at_50": 0.69863, - "ndcg_at_100": 0.70118, - "ndcg_at_1000": 0.70118, - "map_at_1": 0.30689, - "map_at_3": 0.45355, - "map_at_5": 0.50074, - "map_at_10": 0.54588, - "map_at_50": 0.56806, - "map_at_100": 0.56843, - "map_at_1000": 0.56843, - "recall_at_1": 0.30689, - "recall_at_3": 0.51604, - "recall_at_5": 0.61476, - "recall_at_10": 0.74931, - "recall_at_50": 0.88597, - "recall_at_100": 0.89809, - "recall_at_1000": 0.89809, - "precision_at_1": 0.63025, - "precision_at_3": 0.4071, - "precision_at_5": 0.30924, - "precision_at_10": 0.19776, - "precision_at_50": 0.04818, - "precision_at_100": 0.0244, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.63025, - "mrr_at_3": 0.70915, - "mrr_at_5": 0.7233, - "mrr_at_10": 0.72985, - "mrr_at_50": 0.73253, - "mrr_at_100": 0.73265, - "mrr_at_1000": 0.73265 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.61559, - "ndcg_at_3": 0.58695, - "ndcg_at_5": 0.60279, - "ndcg_at_10": 0.65144, - "ndcg_at_50": 0.69212, - "ndcg_at_100": 0.69488, - "ndcg_at_1000": 0.69488, - "map_at_1": 0.32456, - "map_at_3": 0.47225, - "map_at_5": 0.51469, - "map_at_10": 0.55569, - "map_at_50": 0.57371, - "map_at_100": 0.57411, - "map_at_1000": 0.57411, - "recall_at_1": 0.32456, - "recall_at_3": 0.53448, - "recall_at_5": 0.62088, - "recall_at_10": 0.72748, - "recall_at_50": 0.85365, - "recall_at_100": 0.86718, - "recall_at_1000": 0.86718, - "precision_at_1": 0.61559, - "precision_at_3": 0.39875, - "precision_at_5": 0.29785, - "precision_at_10": 0.19005, - "precision_at_50": 0.04608, - "precision_at_100": 0.02333, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.61559, - "mrr_at_3": 0.70968, - "mrr_at_5": 0.72043, - "mrr_at_10": 0.72424, - "mrr_at_50": 0.72679, - "mrr_at_100": 0.72689, - "mrr_at_1000": 0.72689 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.5765, - "ndcg_at_3": 0.53487, - "ndcg_at_5": 0.54282, - "ndcg_at_10": 0.5969, - "ndcg_at_50": 0.64874, - "ndcg_at_100": 0.65671, - "ndcg_at_1000": 0.65671, - "map_at_1": 0.23267, - "map_at_3": 0.38407, - "map_at_5": 0.43886, - "map_at_10": 0.49102, - "map_at_50": 0.51666, - "map_at_100": 0.51771, - "map_at_1000": 0.51771, - "recall_at_1": 0.23267, - "recall_at_3": 0.44447, - "recall_at_5": 0.54105, - "recall_at_10": 0.67536, - "recall_at_50": 0.8314, - "recall_at_100": 0.8726, - "recall_at_1000": 0.8726, - "precision_at_1": 0.5765, - "precision_at_3": 0.41712, - "precision_at_5": 0.32568, - "precision_at_10": 0.21721, - "precision_at_50": 0.05366, - "precision_at_100": 0.02762, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.5765, - "mrr_at_3": 0.66621, - "mrr_at_5": 0.67632, - "mrr_at_10": 0.6846, - "mrr_at_50": 0.68767, - "mrr_at_100": 0.68816, - "mrr_at_1000": 0.68816 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.52162, - "ndcg_at_3": 0.56274, - "ndcg_at_5": 0.60339, - "ndcg_at_10": 0.6639, - "ndcg_at_50": 0.70899, - "ndcg_at_100": 0.71039, - "ndcg_at_1000": 0.71039, - "map_at_1": 0.299, - "map_at_3": 0.46512, - "map_at_5": 0.51701, - "map_at_10": 0.56412, - "map_at_50": 0.58345, - "map_at_100": 0.58363, - "map_at_1000": 0.58363, - "recall_at_1": 0.299, - "recall_at_3": 0.55194, - "recall_at_5": 0.67042, - "recall_at_10": 0.8108, - "recall_at_50": 0.96311, - "recall_at_100": 0.97077, - "recall_at_1000": 0.97077, - "precision_at_1": 0.52162, - "precision_at_3": 0.38468, - "precision_at_5": 0.29838, - "precision_at_10": 0.19243, - "precision_at_50": 0.04578, - "precision_at_100": 0.023, - "precision_at_1000": 0.0023, - "mrr_at_1": 0.52432, - "mrr_at_3": 0.65, - "mrr_at_5": 0.66892, - "mrr_at_10": 0.67505, - "mrr_at_50": 0.67865, - "mrr_at_100": 0.67873, - "mrr_at_1000": 0.67873 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.42638, - "ndcg_at_3": 0.45755, - "ndcg_at_5": 0.50389, - "ndcg_at_10": 0.56155, - "ndcg_at_50": 0.60249, - "ndcg_at_100": 0.6058, - "ndcg_at_1000": 0.6058, - "map_at_1": 0.27022, - "map_at_3": 0.38767, - "map_at_5": 0.43051, - "map_at_10": 0.46814, - "map_at_50": 0.48336, - "map_at_100": 0.48379, - "map_at_1000": 0.48379, - "recall_at_1": 0.27022, - "recall_at_3": 0.47363, - "recall_at_5": 0.58848, - "recall_at_10": 0.72655, - "recall_at_50": 0.87316, - "recall_at_100": 0.89054, - "recall_at_1000": 0.89054, - "precision_at_1": 0.42638, - "precision_at_3": 0.28221, - "precision_at_5": 0.22086, - "precision_at_10": 0.14417, - "precision_at_50": 0.03466, - "precision_at_100": 0.01764, - "precision_at_1000": 0.00176, - "mrr_at_1": 0.42638, - "mrr_at_3": 0.52352, - "mrr_at_5": 0.54392, - "mrr_at_10": 0.55596, - "mrr_at_50": 0.5614, - "mrr_at_100": 0.5615, - "mrr_at_1000": 0.5615 - }, - "gpt3": { - "ndcg_at_1": 0.35015, - "ndcg_at_3": 0.43413, - "ndcg_at_5": 0.48297, - "ndcg_at_10": 0.5294, - "ndcg_at_50": 0.57445, - "ndcg_at_100": 0.57888, - "ndcg_at_1000": 0.57888, - "map_at_1": 0.2814, - "map_at_3": 0.38683, - "map_at_5": 0.41921, - "map_at_10": 0.44275, - "map_at_50": 0.45546, - "map_at_100": 0.4559, - "map_at_1000": 0.4559, - "recall_at_1": 0.2814, - "recall_at_3": 0.49135, - "recall_at_5": 0.59866, - "recall_at_10": 0.7223, - "recall_at_50": 0.90307, - "recall_at_100": 0.92928, - "recall_at_1000": 0.92928, - "precision_at_1": 0.35015, - "precision_at_3": 0.22156, - "precision_at_5": 0.16677, - "precision_at_10": 0.10415, - "precision_at_50": 0.02665, - "precision_at_100": 0.01362, - "precision_at_1000": 0.00136, - "mrr_at_1": 0.35015, - "mrr_at_3": 0.46241, - "mrr_at_5": 0.48541, - "mrr_at_10": 0.50003, - "mrr_at_50": 0.50597, - "mrr_at_100": 0.50627, - "mrr_at_1000": 0.50627 - }, - "llm-survey": { - "ndcg_at_1": 0.39776, - "ndcg_at_3": 0.3868, - "ndcg_at_5": 0.4224, - "ndcg_at_10": 0.48389, - "ndcg_at_50": 0.54323, - "ndcg_at_100": 0.54776, - "ndcg_at_1000": 0.54776, - "map_at_1": 0.18418, - "map_at_3": 0.29383, - "map_at_5": 0.33724, - "map_at_10": 0.38108, - "map_at_50": 0.40675, - "map_at_100": 0.40728, - "map_at_1000": 0.40728, - "recall_at_1": 0.18418, - "recall_at_3": 0.35449, - "recall_at_5": 0.45681, - "recall_at_10": 0.61121, - "recall_at_50": 0.80368, - "recall_at_100": 0.82866, - "recall_at_1000": 0.82866, - "precision_at_1": 0.39776, - "precision_at_3": 0.28665, - "precision_at_5": 0.2381, - "precision_at_10": 0.16555, - "precision_at_50": 0.04342, - "precision_at_100": 0.0221, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.39776, - "mrr_at_3": 0.48973, - "mrr_at_5": 0.5106, - "mrr_at_10": 0.5231, - "mrr_at_50": 0.52829, - "mrr_at_100": 0.52862, - "mrr_at_1000": 0.52862 - }, - "gemini": { - "ndcg_at_1": 0.3494, - "ndcg_at_3": 0.48647, - "ndcg_at_5": 0.51947, - "ndcg_at_10": 0.55281, - "ndcg_at_50": 0.58644, - "ndcg_at_100": 0.59037, - "ndcg_at_1000": 0.59037, - "map_at_1": 0.3494, - "map_at_3": 0.45448, - "map_at_5": 0.47276, - "map_at_10": 0.48701, - "map_at_50": 0.4946, - "map_at_100": 0.49495, - "map_at_1000": 0.49495, - "recall_at_1": 0.3494, - "recall_at_3": 0.57831, - "recall_at_5": 0.65863, - "recall_at_10": 0.75904, - "recall_at_50": 0.90763, - "recall_at_100": 0.93173, - "recall_at_1000": 0.93173, - "precision_at_1": 0.3494, - "precision_at_3": 0.19277, - "precision_at_5": 0.13173, - "precision_at_10": 0.0759, - "precision_at_50": 0.01815, - "precision_at_100": 0.00932, - "precision_at_1000": 0.00093, - "mrr_at_1": 0.3494, - "mrr_at_3": 0.45448, - "mrr_at_5": 0.47276, - "mrr_at_10": 0.48711, - "mrr_at_50": 0.49471, - "mrr_at_100": 0.49506, - "mrr_at_1000": 0.49506 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.1749, - "ndcg_at_3": 0.15974, - "ndcg_at_5": 0.1626, - "ndcg_at_10": 0.18189, - "ndcg_at_50": 0.22723, - "ndcg_at_100": 0.24352, - "ndcg_at_1000": 0.27982, - "map_at_1": 0.06603, - "map_at_3": 0.10253, - "map_at_5": 0.11703, - "map_at_10": 0.13407, - "map_at_50": 0.15077, - "map_at_100": 0.1531, - "map_at_1000": 0.15494, - "recall_at_1": 0.06603, - "recall_at_3": 0.12376, - "recall_at_5": 0.15775, - "recall_at_10": 0.21588, - "recall_at_50": 0.35089, - "recall_at_100": 0.42198, - "recall_at_1000": 0.64709, - "precision_at_1": 0.1749, - "precision_at_3": 0.12475, - "precision_at_5": 0.10017, - "precision_at_10": 0.0744, - "precision_at_50": 0.02612, - "precision_at_100": 0.01549, - "precision_at_1000": 0.00219, - "mrr_at_1": 0.1749, - "mrr_at_3": 0.21377, - "mrr_at_5": 0.22329, - "mrr_at_10": 0.2325, - "mrr_at_50": 0.23826, - "mrr_at_100": 0.2392, - "mrr_at_1000": 0.23996 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.41202, - "ndcg_at_3": 0.39443, - "ndcg_at_5": 0.4049, - "ndcg_at_10": 0.43171, - "ndcg_at_50": 0.49539, - "ndcg_at_100": 0.50965, - "ndcg_at_1000": 0.53308, - "map_at_1": 0.1792, - "map_at_3": 0.27113, - "map_at_5": 0.31081, - "map_at_10": 0.34945, - "map_at_50": 0.37876, - "map_at_100": 0.38115, - "map_at_1000": 0.38279, - "recall_at_1": 0.1792, - "recall_at_3": 0.31277, - "recall_at_5": 0.39109, - "recall_at_10": 0.4891, - "recall_at_50": 0.66765, - "recall_at_100": 0.72714, - "recall_at_1000": 0.85887, - "precision_at_1": 0.41202, - "precision_at_3": 0.29409, - "precision_at_5": 0.24399, - "precision_at_10": 0.17026, - "precision_at_50": 0.05084, - "precision_at_100": 0.02767, - "precision_at_1000": 0.00322, - "mrr_at_1": 0.41202, - "mrr_at_3": 0.48152, - "mrr_at_5": 0.49803, - "mrr_at_10": 0.50756, - "mrr_at_50": 0.5128, - "mrr_at_100": 0.51329, - "mrr_at_1000": 0.51358 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.56322, - "ndcg_at_3": 0.51397, - "ndcg_at_5": 0.49706, - "ndcg_at_10": 0.51528, - "ndcg_at_50": 0.60031, - "ndcg_at_100": 0.61704, - "ndcg_at_1000": 0.63814, - "map_at_1": 0.1529, - "map_at_3": 0.28005, - "map_at_5": 0.34026, - "map_at_10": 0.40592, - "map_at_50": 0.45267, - "map_at_100": 0.45628, - "map_at_1000": 0.45815, - "recall_at_1": 0.1529, - "recall_at_3": 0.31305, - "recall_at_5": 0.40825, - "recall_at_10": 0.54138, - "recall_at_50": 0.75658, - "recall_at_100": 0.8193, - "recall_at_1000": 0.92662, - "precision_at_1": 0.56322, - "precision_at_3": 0.44912, - "precision_at_5": 0.37661, - "precision_at_10": 0.26884, - "precision_at_50": 0.07897, - "precision_at_100": 0.04259, - "precision_at_1000": 0.00473, - "mrr_at_1": 0.56322, - "mrr_at_3": 0.63544, - "mrr_at_5": 0.64872, - "mrr_at_10": 0.65614, - "mrr_at_50": 0.65999, - "mrr_at_100": 0.66031, - "mrr_at_1000": 0.66046 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.48799, - "ndcg_at_3": 0.43764, - "ndcg_at_5": 0.45, - "ndcg_at_10": 0.48469, - "ndcg_at_50": 0.54029, - "ndcg_at_100": 0.55247, - "ndcg_at_1000": 0.5736, - "map_at_1": 0.21528, - "map_at_3": 0.32878, - "map_at_5": 0.365, - "map_at_10": 0.39304, - "map_at_50": 0.41425, - "map_at_100": 0.41631, - "map_at_1000": 0.41775, - "recall_at_1": 0.21528, - "recall_at_3": 0.37658, - "recall_at_5": 0.45491, - "recall_at_10": 0.55108, - "recall_at_50": 0.72323, - "recall_at_100": 0.77548, - "recall_at_1000": 0.89797, - "precision_at_1": 0.48799, - "precision_at_3": 0.31908, - "precision_at_5": 0.24312, - "precision_at_10": 0.15401, - "precision_at_50": 0.04265, - "precision_at_100": 0.0231, - "precision_at_1000": 0.00269, - "mrr_at_1": 0.48799, - "mrr_at_3": 0.55741, - "mrr_at_5": 0.5717, - "mrr_at_10": 0.58127, - "mrr_at_50": 0.5866, - "mrr_at_100": 0.58697, - "mrr_at_1000": 0.58723 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.37603, - "ndcg_at_3": 0.40235, - "ndcg_at_5": 0.4172, - "ndcg_at_10": 0.44192, - "ndcg_at_50": 0.48161, - "ndcg_at_100": 0.48956, - "ndcg_at_1000": 0.50804, - "map_at_1": 0.23542, - "map_at_3": 0.3343, - "map_at_5": 0.3596, - "map_at_10": 0.38173, - "map_at_50": 0.39721, - "map_at_100": 0.3984, - "map_at_1000": 0.39929, - "recall_at_1": 0.23542, - "recall_at_3": 0.39323, - "recall_at_5": 0.45503, - "recall_at_10": 0.52467, - "recall_at_50": 0.65524, - "recall_at_100": 0.69304, - "recall_at_1000": 0.82304, - "precision_at_1": 0.37603, - "precision_at_3": 0.24669, - "precision_at_5": 0.18271, - "precision_at_10": 0.11527, - "precision_at_50": 0.03083, - "precision_at_100": 0.0164, - "precision_at_1000": 0.00189, - "mrr_at_1": 0.37603, - "mrr_at_3": 0.44385, - "mrr_at_5": 0.4547, - "mrr_at_10": 0.4618, - "mrr_at_50": 0.46649, - "mrr_at_100": 0.4668, - "mrr_at_1000": 0.46717 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.59525, - "ndcg_at_3": 0.53059, - "ndcg_at_5": 0.53893, - "ndcg_at_10": 0.5616, - "ndcg_at_50": 0.59501, - "ndcg_at_100": 0.60382, - "ndcg_at_1000": 0.61975, - "map_at_1": 0.34947, - "map_at_3": 0.43959, - "map_at_5": 0.46349, - "map_at_10": 0.48202, - "map_at_50": 0.49453, - "map_at_100": 0.49586, - "map_at_1000": 0.49684, - "recall_at_1": 0.34947, - "recall_at_3": 0.48716, - "recall_at_5": 0.54113, - "recall_at_10": 0.60342, - "recall_at_50": 0.70973, - "recall_at_100": 0.74856, - "recall_at_1000": 0.84264, - "precision_at_1": 0.59525, - "precision_at_3": 0.31538, - "precision_at_5": 0.2227, - "precision_at_10": 0.13167, - "precision_at_50": 0.03314, - "precision_at_100": 0.01778, - "precision_at_1000": 0.00206, - "mrr_at_1": 0.59525, - "mrr_at_3": 0.65981, - "mrr_at_5": 0.66865, - "mrr_at_10": 0.67285, - "mrr_at_50": 0.676, - "mrr_at_100": 0.67633, - "mrr_at_1000": 0.67648 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.37435, - "ndcg_at_3": 0.33219, - "ndcg_at_5": 0.3366, - "ndcg_at_10": 0.36314, - "ndcg_at_50": 0.4222, - "ndcg_at_100": 0.43937, - "ndcg_at_1000": 0.46947, - "map_at_1": 0.1579, - "map_at_3": 0.23159, - "map_at_5": 0.25535, - "map_at_10": 0.27745, - "map_at_50": 0.29932, - "map_at_100": 0.30208, - "map_at_1000": 0.30397, - "recall_at_1": 0.1579, - "recall_at_3": 0.27365, - "recall_at_5": 0.33433, - "recall_at_10": 0.41291, - "recall_at_50": 0.59431, - "recall_at_100": 0.66718, - "recall_at_1000": 0.84297, - "precision_at_1": 0.37435, - "precision_at_3": 0.24263, - "precision_at_5": 0.18637, - "precision_at_10": 0.12161, - "precision_at_50": 0.03735, - "precision_at_100": 0.02124, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.37435, - "mrr_at_3": 0.4455, - "mrr_at_5": 0.46194, - "mrr_at_10": 0.47149, - "mrr_at_50": 0.47746, - "mrr_at_100": 0.47801, - "mrr_at_1000": 0.47837 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.4382, - "ndcg_at_3": 0.41134, - "ndcg_at_5": 0.41463, - "ndcg_at_10": 0.43677, - "ndcg_at_50": 0.49033, - "ndcg_at_100": 0.50449, - "ndcg_at_1000": 0.52818, - "map_at_1": 0.20868, - "map_at_3": 0.29009, - "map_at_5": 0.32159, - "map_at_10": 0.34919, - "map_at_50": 0.37088, - "map_at_100": 0.37324, - "map_at_1000": 0.3748, - "recall_at_1": 0.20868, - "recall_at_3": 0.3403, - "recall_at_5": 0.40822, - "recall_at_10": 0.48863, - "recall_at_50": 0.64401, - "recall_at_100": 0.70321, - "recall_at_1000": 0.83665, - "precision_at_1": 0.4382, - "precision_at_3": 0.2853, - "precision_at_5": 0.22496, - "precision_at_10": 0.14698, - "precision_at_50": 0.04233, - "precision_at_100": 0.02336, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.4382, - "mrr_at_3": 0.51465, - "mrr_at_5": 0.52935, - "mrr_at_10": 0.53775, - "mrr_at_50": 0.54277, - "mrr_at_100": 0.54329, - "mrr_at_1000": 0.54357 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.50867, - "ndcg_at_3": 0.44955, - "ndcg_at_5": 0.45213, - "ndcg_at_10": 0.49408, - "ndcg_at_50": 0.58356, - "ndcg_at_100": 0.60177, - "ndcg_at_1000": 0.61975, - "map_at_1": 0.16806, - "map_at_3": 0.28241, - "map_at_5": 0.33166, - "map_at_10": 0.38286, - "map_at_50": 0.41981, - "map_at_100": 0.42346, - "map_at_1000": 0.42499, - "recall_at_1": 0.16806, - "recall_at_3": 0.3254, - "recall_at_5": 0.42023, - "recall_at_10": 0.54823, - "recall_at_50": 0.81334, - "recall_at_100": 0.8899, - "recall_at_1000": 0.98759, - "precision_at_1": 0.50867, - "precision_at_3": 0.37283, - "precision_at_5": 0.30462, - "precision_at_10": 0.21012, - "precision_at_50": 0.06335, - "precision_at_100": 0.03442, - "precision_at_1000": 0.00379, - "mrr_at_1": 0.50867, - "mrr_at_3": 0.59586, - "mrr_at_5": 0.61594, - "mrr_at_10": 0.62199, - "mrr_at_50": 0.62788, - "mrr_at_100": 0.62818, - "mrr_at_1000": 0.62824 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.54955, - "ndcg_at_3": 0.48178, - "ndcg_at_5": 0.46695, - "ndcg_at_10": 0.50332, - "ndcg_at_50": 0.59323, - "ndcg_at_100": 0.61117, - "ndcg_at_1000": 0.63413, - "map_at_1": 0.15955, - "map_at_3": 0.27792, - "map_at_5": 0.33035, - "map_at_10": 0.38729, - "map_at_50": 0.43093, - "map_at_100": 0.43461, - "map_at_1000": 0.43652, - "recall_at_1": 0.15955, - "recall_at_3": 0.31692, - "recall_at_5": 0.4107, - "recall_at_10": 0.54482, - "recall_at_50": 0.78931, - "recall_at_100": 0.85973, - "recall_at_1000": 0.98859, - "precision_at_1": 0.54955, - "precision_at_3": 0.41441, - "precision_at_5": 0.33934, - "precision_at_10": 0.23724, - "precision_at_50": 0.07081, - "precision_at_100": 0.03844, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.54955, - "mrr_at_3": 0.61962, - "mrr_at_5": 0.63614, - "mrr_at_10": 0.6447, - "mrr_at_50": 0.65013, - "mrr_at_100": 0.65036, - "mrr_at_1000": 0.65056 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.52959, - "ndcg_at_3": 0.46132, - "ndcg_at_5": 0.44802, - "ndcg_at_10": 0.47621, - "ndcg_at_50": 0.56345, - "ndcg_at_100": 0.58417, - "ndcg_at_1000": 0.60984, - "map_at_1": 0.15214, - "map_at_3": 0.2649, - "map_at_5": 0.31185, - "map_at_10": 0.36211, - "map_at_50": 0.40418, - "map_at_100": 0.40802, - "map_at_1000": 0.41023, - "recall_at_1": 0.15214, - "recall_at_3": 0.3007, - "recall_at_5": 0.38671, - "recall_at_10": 0.51202, - "recall_at_50": 0.74612, - "recall_at_100": 0.83541, - "recall_at_1000": 0.97369, - "precision_at_1": 0.52959, - "precision_at_3": 0.39152, - "precision_at_5": 0.31893, - "precision_at_10": 0.22041, - "precision_at_50": 0.06728, - "precision_at_100": 0.03683, - "precision_at_1000": 0.00419, - "mrr_at_1": 0.52959, - "mrr_at_3": 0.60158, - "mrr_at_5": 0.61681, - "mrr_at_10": 0.62695, - "mrr_at_50": 0.63106, - "mrr_at_100": 0.63165, - "mrr_at_1000": 0.63193 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.66372, - "ndcg_at_3": 0.55626, - "ndcg_at_5": 0.55292, - "ndcg_at_10": 0.59502, - "ndcg_at_50": 0.6731, - "ndcg_at_100": 0.68869, - "ndcg_at_1000": 0.70297, - "map_at_1": 0.22263, - "map_at_3": 0.36093, - "map_at_5": 0.42091, - "map_at_10": 0.47836, - "map_at_50": 0.52059, - "map_at_100": 0.52361, - "map_at_1000": 0.52481, - "recall_at_1": 0.22263, - "recall_at_3": 0.39887, - "recall_at_5": 0.50458, - "recall_at_10": 0.63715, - "recall_at_50": 0.84966, - "recall_at_100": 0.91452, - "recall_at_1000": 0.99349, - "precision_at_1": 0.66372, - "precision_at_3": 0.45821, - "precision_at_5": 0.36578, - "precision_at_10": 0.24395, - "precision_at_50": 0.06743, - "precision_at_100": 0.03611, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.66372, - "mrr_at_3": 0.72714, - "mrr_at_5": 0.74056, - "mrr_at_10": 0.74438, - "mrr_at_50": 0.74674, - "mrr_at_100": 0.74726, - "mrr_at_1000": 0.74737 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.64402, - "ndcg_at_3": 0.59466, - "ndcg_at_5": 0.58783, - "ndcg_at_10": 0.62907, - "ndcg_at_50": 0.70397, - "ndcg_at_100": 0.7203, - "ndcg_at_1000": 0.73024, - "map_at_1": 0.22767, - "map_at_3": 0.39104, - "map_at_5": 0.45623, - "map_at_10": 0.51561, - "map_at_50": 0.55504, - "map_at_100": 0.55857, - "map_at_1000": 0.5596, - "recall_at_1": 0.22767, - "recall_at_3": 0.43947, - "recall_at_5": 0.54893, - "recall_at_10": 0.68221, - "recall_at_50": 0.88372, - "recall_at_100": 0.94898, - "recall_at_1000": 0.99864, - "precision_at_1": 0.64402, - "precision_at_3": 0.49004, - "precision_at_5": 0.3913, - "precision_at_10": 0.26033, - "precision_at_50": 0.07136, - "precision_at_100": 0.03834, - "precision_at_1000": 0.00403, - "mrr_at_1": 0.64402, - "mrr_at_3": 0.7337, - "mrr_at_5": 0.74606, - "mrr_at_10": 0.75089, - "mrr_at_50": 0.75255, - "mrr_at_100": 0.75278, - "mrr_at_1000": 0.75283 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.51488, - "ndcg_at_3": 0.45893, - "ndcg_at_5": 0.44988, - "ndcg_at_10": 0.48989, - "ndcg_at_50": 0.56319, - "ndcg_at_100": 0.58078, - "ndcg_at_1000": 0.60388, - "map_at_1": 0.21714, - "map_at_3": 0.33745, - "map_at_5": 0.36929, - "map_at_10": 0.40163, - "map_at_50": 0.43182, - "map_at_100": 0.43498, - "map_at_1000": 0.43669, - "recall_at_1": 0.21714, - "recall_at_3": 0.37535, - "recall_at_5": 0.43096, - "recall_at_10": 0.5428, - "recall_at_50": 0.76013, - "recall_at_100": 0.83639, - "recall_at_1000": 0.97569, - "precision_at_1": 0.51488, - "precision_at_3": 0.34524, - "precision_at_5": 0.25119, - "precision_at_10": 0.16339, - "precision_at_50": 0.04905, - "precision_at_100": 0.02708, - "precision_at_1000": 0.00307, - "mrr_at_1": 0.51488, - "mrr_at_3": 0.5754, - "mrr_at_5": 0.58165, - "mrr_at_10": 0.59557, - "mrr_at_50": 0.60185, - "mrr_at_100": 0.60213, - "mrr_at_1000": 0.60254 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.52394, - "ndcg_at_3": 0.47414, - "ndcg_at_5": 0.48241, - "ndcg_at_10": 0.53341, - "ndcg_at_50": 0.59597, - "ndcg_at_100": 0.61195, - "ndcg_at_1000": 0.63107, - "map_at_1": 0.24227, - "map_at_3": 0.36208, - "map_at_5": 0.39237, - "map_at_10": 0.42632, - "map_at_50": 0.45109, - "map_at_100": 0.45367, - "map_at_1000": 0.45523, - "recall_at_1": 0.24227, - "recall_at_3": 0.42634, - "recall_at_5": 0.49602, - "recall_at_10": 0.62257, - "recall_at_50": 0.81861, - "recall_at_100": 0.89179, - "recall_at_1000": 1.0, - "precision_at_1": 0.52394, - "precision_at_3": 0.33709, - "precision_at_5": 0.24451, - "precision_at_10": 0.16197, - "precision_at_50": 0.04496, - "precision_at_100": 0.02454, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.52394, - "mrr_at_3": 0.61362, - "mrr_at_5": 0.62798, - "mrr_at_10": 0.63882, - "mrr_at_50": 0.64281, - "mrr_at_100": 0.64323, - "mrr_at_1000": 0.64338 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.4986, - "ndcg_at_3": 0.46068, - "ndcg_at_5": 0.46799, - "ndcg_at_10": 0.50404, - "ndcg_at_50": 0.58205, - "ndcg_at_100": 0.59908, - "ndcg_at_1000": 0.61708, - "map_at_1": 0.23703, - "map_at_3": 0.35777, - "map_at_5": 0.38508, - "map_at_10": 0.41157, - "map_at_50": 0.43942, - "map_at_100": 0.44224, - "map_at_1000": 0.44364, - "recall_at_1": 0.23703, - "recall_at_3": 0.4201, - "recall_at_5": 0.48424, - "recall_at_10": 0.5697, - "recall_at_50": 0.82163, - "recall_at_100": 0.89809, - "recall_at_1000": 1.0, - "precision_at_1": 0.4986, - "precision_at_3": 0.32493, - "precision_at_5": 0.23585, - "precision_at_10": 0.14594, - "precision_at_50": 0.04426, - "precision_at_100": 0.0244, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.4986, - "mrr_at_3": 0.58357, - "mrr_at_5": 0.59729, - "mrr_at_10": 0.60544, - "mrr_at_50": 0.61295, - "mrr_at_100": 0.61339, - "mrr_at_1000": 0.61353 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.55376, - "ndcg_at_3": 0.49587, - "ndcg_at_5": 0.50228, - "ndcg_at_10": 0.5429, - "ndcg_at_50": 0.60287, - "ndcg_at_100": 0.62074, - "ndcg_at_1000": 0.64357, - "map_at_1": 0.29879, - "map_at_3": 0.40023, - "map_at_5": 0.42646, - "map_at_10": 0.45539, - "map_at_50": 0.47739, - "map_at_100": 0.48019, - "map_at_1000": 0.48186, - "recall_at_1": 0.29879, - "recall_at_3": 0.44221, - "recall_at_5": 0.50386, - "recall_at_10": 0.59622, - "recall_at_50": 0.78577, - "recall_at_100": 0.86718, - "recall_at_1000": 1.0, - "precision_at_1": 0.55376, - "precision_at_3": 0.32168, - "precision_at_5": 0.23333, - "precision_at_10": 0.14866, - "precision_at_50": 0.04194, - "precision_at_100": 0.02333, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.55376, - "mrr_at_3": 0.62455, - "mrr_at_5": 0.63611, - "mrr_at_10": 0.64315, - "mrr_at_50": 0.64846, - "mrr_at_100": 0.649, - "mrr_at_1000": 0.64924 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.47814, - "ndcg_at_3": 0.42439, - "ndcg_at_5": 0.42668, - "ndcg_at_10": 0.4754, - "ndcg_at_50": 0.55711, - "ndcg_at_100": 0.57475, - "ndcg_at_1000": 0.59627, - "map_at_1": 0.1974, - "map_at_3": 0.30199, - "map_at_5": 0.33375, - "map_at_10": 0.37033, - "map_at_50": 0.40417, - "map_at_100": 0.40717, - "map_at_1000": 0.40873, - "recall_at_1": 0.1974, - "recall_at_3": 0.35221, - "recall_at_5": 0.4197, - "recall_at_10": 0.5465, - "recall_at_50": 0.79583, - "recall_at_100": 0.8726, - "recall_at_1000": 0.99875, - "precision_at_1": 0.47814, - "precision_at_3": 0.31967, - "precision_at_5": 0.24317, - "precision_at_10": 0.16421, - "precision_at_50": 0.05027, - "precision_at_100": 0.02762, - "precision_at_1000": 0.00312, - "mrr_at_1": 0.47814, - "mrr_at_3": 0.56239, - "mrr_at_5": 0.57523, - "mrr_at_10": 0.58745, - "mrr_at_50": 0.5933, - "mrr_at_100": 0.59373, - "mrr_at_1000": 0.59391 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.52432, - "ndcg_at_3": 0.53599, - "ndcg_at_5": 0.55003, - "ndcg_at_10": 0.59489, - "ndcg_at_50": 0.66062, - "ndcg_at_100": 0.66924, - "ndcg_at_1000": 0.67425, - "map_at_1": 0.26943, - "map_at_3": 0.42909, - "map_at_5": 0.46475, - "map_at_10": 0.49538, - "map_at_50": 0.52142, - "map_at_100": 0.52281, - "map_at_1000": 0.52326, - "recall_at_1": 0.26943, - "recall_at_3": 0.52358, - "recall_at_5": 0.59401, - "recall_at_10": 0.70607, - "recall_at_50": 0.92864, - "recall_at_100": 0.97077, - "recall_at_1000": 1.0, - "precision_at_1": 0.52432, - "precision_at_3": 0.36577, - "precision_at_5": 0.26703, - "precision_at_10": 0.16405, - "precision_at_50": 0.044, - "precision_at_100": 0.023, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.52432, - "mrr_at_3": 0.63919, - "mrr_at_5": 0.64554, - "mrr_at_10": 0.6543, - "mrr_at_50": 0.65995, - "mrr_at_100": 0.6602, - "mrr_at_1000": 0.66027 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.3681, - "ndcg_at_3": 0.36156, - "ndcg_at_5": 0.40448, - "ndcg_at_10": 0.46527, - "ndcg_at_50": 0.52062, - "ndcg_at_100": 0.5339, - "ndcg_at_1000": 0.55044, - "map_at_1": 0.22334, - "map_at_3": 0.2999, - "map_at_5": 0.33582, - "map_at_10": 0.37328, - "map_at_50": 0.3909, - "map_at_100": 0.3927, - "map_at_1000": 0.39374, - "recall_at_1": 0.22334, - "recall_at_3": 0.36209, - "recall_at_5": 0.46662, - "recall_at_10": 0.61845, - "recall_at_50": 0.82285, - "recall_at_100": 0.89054, - "recall_at_1000": 1.0, - "precision_at_1": 0.3681, - "precision_at_3": 0.21984, - "precision_at_5": 0.1773, - "precision_at_10": 0.12239, - "precision_at_50": 0.03264, - "precision_at_100": 0.01764, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.3681, - "mrr_at_3": 0.4453, - "mrr_at_5": 0.46631, - "mrr_at_10": 0.48027, - "mrr_at_50": 0.48844, - "mrr_at_100": 0.48903, - "mrr_at_1000": 0.48939 - }, - "gpt3": { - "ndcg_at_1": 0.35312, - "ndcg_at_3": 0.42654, - "ndcg_at_5": 0.46343, - "ndcg_at_10": 0.49908, - "ndcg_at_50": 0.55228, - "ndcg_at_100": 0.56336, - "ndcg_at_1000": 0.57384, - "map_at_1": 0.28684, - "map_at_3": 0.38155, - "map_at_5": 0.40535, - "map_at_10": 0.42241, - "map_at_50": 0.43753, - "map_at_100": 0.43891, - "map_at_1000": 0.43951, - "recall_at_1": 0.28684, - "recall_at_3": 0.48912, - "recall_at_5": 0.57072, - "recall_at_10": 0.66469, - "recall_at_50": 0.86968, - "recall_at_100": 0.92928, - "recall_at_1000": 1.0, - "precision_at_1": 0.35312, - "precision_at_3": 0.21167, - "precision_at_5": 0.15312, - "precision_at_10": 0.09288, - "precision_at_50": 0.02534, - "precision_at_100": 0.01362, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.35312, - "mrr_at_3": 0.44955, - "mrr_at_5": 0.46736, - "mrr_at_10": 0.48091, - "mrr_at_50": 0.4894, - "mrr_at_100": 0.49003, - "mrr_at_1000": 0.49027 - }, - "llm-survey": { - "ndcg_at_1": 0.39496, - "ndcg_at_3": 0.37089, - "ndcg_at_5": 0.39629, - "ndcg_at_10": 0.43185, - "ndcg_at_50": 0.49835, - "ndcg_at_100": 0.51743, - "ndcg_at_1000": 0.54459, - "map_at_1": 0.18245, - "map_at_3": 0.27977, - "map_at_5": 0.31591, - "map_at_10": 0.34116, - "map_at_50": 0.36662, - "map_at_100": 0.36939, - "map_at_1000": 0.37107, - "recall_at_1": 0.18245, - "recall_at_3": 0.33558, - "recall_at_5": 0.42359, - "recall_at_10": 0.51749, - "recall_at_50": 0.73722, - "recall_at_100": 0.82866, - "recall_at_1000": 1.0, - "precision_at_1": 0.39496, - "precision_at_3": 0.26984, - "precision_at_5": 0.21457, - "precision_at_10": 0.13613, - "precision_at_50": 0.03961, - "precision_at_100": 0.0221, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.39496, - "mrr_at_3": 0.47339, - "mrr_at_5": 0.49174, - "mrr_at_10": 0.50099, - "mrr_at_50": 0.50704, - "mrr_at_100": 0.50798, - "mrr_at_1000": 0.50845 - }, - "gemini": { - "ndcg_at_1": 0.37751, - "ndcg_at_3": 0.48355, - "ndcg_at_5": 0.51017, - "ndcg_at_10": 0.53283, - "ndcg_at_50": 0.56982, - "ndcg_at_100": 0.58185, - "ndcg_at_1000": 0.59137, - "map_at_1": 0.37751, - "map_at_3": 0.45649, - "map_at_5": 0.47135, - "map_at_10": 0.48106, - "map_at_50": 0.48926, - "map_at_100": 0.49041, - "map_at_1000": 0.49089, - "recall_at_1": 0.37751, - "recall_at_3": 0.56225, - "recall_at_5": 0.62651, - "recall_at_10": 0.69478, - "recall_at_50": 0.85944, - "recall_at_100": 0.93173, - "recall_at_1000": 1.0, - "precision_at_1": 0.37751, - "precision_at_3": 0.18742, - "precision_at_5": 0.1253, - "precision_at_10": 0.06948, - "precision_at_50": 0.01719, - "precision_at_100": 0.00932, - "precision_at_1000": 0.001, - "mrr_at_1": 0.37751, - "mrr_at_3": 0.45649, - "mrr_at_5": 0.47135, - "mrr_at_10": 0.48106, - "mrr_at_50": 0.48926, - "mrr_at_100": 0.49041, - "mrr_at_1000": 0.49089 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.25875, - "ndcg_at_3": 0.2446, - "ndcg_at_5": 0.24692, - "ndcg_at_10": 0.26615, - "ndcg_at_50": 0.3015, - "ndcg_at_100": 0.30538, - "ndcg_at_1000": 0.30538, - "map_at_1": 0.09886, - "map_at_3": 0.16004, - "map_at_5": 0.18375, - "map_at_10": 0.20755, - "map_at_50": 0.22334, - "map_at_100": 0.22392, - "map_at_1000": 0.22392, - "recall_at_1": 0.09886, - "recall_at_3": 0.18963, - "recall_at_5": 0.23707, - "recall_at_10": 0.30302, - "recall_at_50": 0.40528, - "recall_at_100": 0.42198, - "recall_at_1000": 0.42198, - "precision_at_1": 0.25875, - "precision_at_3": 0.19415, - "precision_at_5": 0.15558, - "precision_at_10": 0.10738, - "precision_at_50": 0.02985, - "precision_at_100": 0.01549, - "precision_at_1000": 0.00155, - "mrr_at_1": 0.25875, - "mrr_at_3": 0.30992, - "mrr_at_5": 0.31961, - "mrr_at_10": 0.3272, - "mrr_at_50": 0.3312, - "mrr_at_100": 0.33143, - "mrr_at_1000": 0.33143 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.41202, - "ndcg_at_3": 0.41727, - "ndcg_at_5": 0.43059, - "ndcg_at_10": 0.46634, - "ndcg_at_50": 0.52569, - "ndcg_at_100": 0.53199, - "ndcg_at_1000": 0.53199, - "map_at_1": 0.18213, - "map_at_3": 0.28523, - "map_at_5": 0.32773, - "map_at_10": 0.37506, - "map_at_50": 0.40652, - "map_at_100": 0.40765, - "map_at_1000": 0.40765, - "recall_at_1": 0.18213, - "recall_at_3": 0.3387, - "recall_at_5": 0.42262, - "recall_at_10": 0.54233, - "recall_at_50": 0.70114, - "recall_at_100": 0.72714, - "recall_at_1000": 0.72714, - "precision_at_1": 0.41202, - "precision_at_3": 0.31454, - "precision_at_5": 0.26295, - "precision_at_10": 0.18934, - "precision_at_50": 0.0534, - "precision_at_100": 0.02767, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.41202, - "mrr_at_3": 0.50103, - "mrr_at_5": 0.51869, - "mrr_at_10": 0.52949, - "mrr_at_50": 0.53337, - "mrr_at_100": 0.53356, - "mrr_at_1000": 0.53356 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.47191, - "ndcg_at_3": 0.44531, - "ndcg_at_5": 0.43964, - "ndcg_at_10": 0.47071, - "ndcg_at_50": 0.57343, - "ndcg_at_100": 0.58562, - "ndcg_at_1000": 0.58562, - "map_at_1": 0.1309, - "map_at_3": 0.24153, - "map_at_5": 0.29587, - "map_at_10": 0.35925, - "map_at_50": 0.41353, - "map_at_100": 0.41643, - "map_at_1000": 0.41643, - "recall_at_1": 0.1309, - "recall_at_3": 0.28021, - "recall_at_5": 0.37309, - "recall_at_10": 0.51567, - "recall_at_50": 0.7751, - "recall_at_100": 0.8193, - "recall_at_1000": 0.8193, - "precision_at_1": 0.47191, - "precision_at_3": 0.3912, - "precision_at_5": 0.33654, - "precision_at_10": 0.25194, - "precision_at_50": 0.08054, - "precision_at_100": 0.04259, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.47191, - "mrr_at_3": 0.5604, - "mrr_at_5": 0.57778, - "mrr_at_10": 0.58887, - "mrr_at_50": 0.5942, - "mrr_at_100": 0.59439, - "mrr_at_1000": 0.59439 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.41945, - "ndcg_at_3": 0.39182, - "ndcg_at_5": 0.4087, - "ndcg_at_10": 0.45388, - "ndcg_at_50": 0.52183, - "ndcg_at_100": 0.52858, - "ndcg_at_1000": 0.52858, - "map_at_1": 0.18973, - "map_at_3": 0.2915, - "map_at_5": 0.32528, - "map_at_10": 0.35935, - "map_at_50": 0.38614, - "map_at_100": 0.38732, - "map_at_1000": 0.38732, - "recall_at_1": 0.18973, - "recall_at_3": 0.34359, - "recall_at_5": 0.4218, - "recall_at_10": 0.5374, - "recall_at_50": 0.74594, - "recall_at_100": 0.77548, - "recall_at_1000": 0.77548, - "precision_at_1": 0.41945, - "precision_at_3": 0.28686, - "precision_at_5": 0.2246, - "precision_at_10": 0.15132, - "precision_at_50": 0.04437, - "precision_at_100": 0.0231, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.41945, - "mrr_at_3": 0.49971, - "mrr_at_5": 0.51831, - "mrr_at_10": 0.53068, - "mrr_at_50": 0.5369, - "mrr_at_100": 0.53712, - "mrr_at_1000": 0.53712 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.40694, - "ndcg_at_3": 0.42706, - "ndcg_at_5": 0.44825, - "ndcg_at_10": 0.47521, - "ndcg_at_50": 0.50944, - "ndcg_at_100": 0.51323, - "ndcg_at_1000": 0.51323, - "map_at_1": 0.25181, - "map_at_3": 0.35552, - "map_at_5": 0.38832, - "map_at_10": 0.41395, - "map_at_50": 0.4281, - "map_at_100": 0.4286, - "map_at_1000": 0.4286, - "recall_at_1": 0.25181, - "recall_at_3": 0.41244, - "recall_at_5": 0.48752, - "recall_at_10": 0.56264, - "recall_at_50": 0.67322, - "recall_at_100": 0.69304, - "recall_at_1000": 0.69304, - "precision_at_1": 0.40694, - "precision_at_3": 0.26288, - "precision_at_5": 0.20038, - "precision_at_10": 0.12688, - "precision_at_50": 0.03203, - "precision_at_100": 0.0164, - "precision_at_1000": 0.00164, - "mrr_at_1": 0.40694, - "mrr_at_3": 0.47371, - "mrr_at_5": 0.48614, - "mrr_at_10": 0.49215, - "mrr_at_50": 0.496, - "mrr_at_100": 0.49623, - "mrr_at_1000": 0.49623 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.63115, - "ndcg_at_3": 0.57745, - "ndcg_at_5": 0.5912, - "ndcg_at_10": 0.6187, - "ndcg_at_50": 0.64205, - "ndcg_at_100": 0.64419, - "ndcg_at_1000": 0.64419, - "map_at_1": 0.3765, - "map_at_3": 0.48588, - "map_at_5": 0.51675, - "map_at_10": 0.54076, - "map_at_50": 0.55123, - "map_at_100": 0.55156, - "map_at_1000": 0.55156, - "recall_at_1": 0.3765, - "recall_at_3": 0.53076, - "recall_at_5": 0.59884, - "recall_at_10": 0.66972, - "recall_at_50": 0.73897, - "recall_at_100": 0.74856, - "recall_at_1000": 0.74856, - "precision_at_1": 0.63115, - "precision_at_3": 0.34877, - "precision_at_5": 0.25096, - "precision_at_10": 0.15113, - "precision_at_50": 0.035, - "precision_at_100": 0.01778, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.63115, - "mrr_at_3": 0.69128, - "mrr_at_5": 0.70144, - "mrr_at_10": 0.70615, - "mrr_at_50": 0.70828, - "mrr_at_100": 0.70834, - "mrr_at_1000": 0.70834 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.39804, - "ndcg_at_3": 0.37116, - "ndcg_at_5": 0.38131, - "ndcg_at_10": 0.41772, - "ndcg_at_50": 0.47145, - "ndcg_at_100": 0.47554, - "ndcg_at_1000": 0.47554, - "map_at_1": 0.16511, - "map_at_3": 0.25485, - "map_at_5": 0.28784, - "map_at_10": 0.32042, - "map_at_50": 0.34391, - "map_at_100": 0.3445, - "map_at_1000": 0.3445, - "recall_at_1": 0.16511, - "recall_at_3": 0.3135, - "recall_at_5": 0.38668, - "recall_at_10": 0.48797, - "recall_at_50": 0.64757, - "recall_at_100": 0.66718, - "recall_at_1000": 0.66718, - "precision_at_1": 0.39804, - "precision_at_3": 0.27922, - "precision_at_5": 0.22311, - "precision_at_10": 0.1509, - "precision_at_50": 0.04153, - "precision_at_100": 0.02124, - "precision_at_1000": 0.00212, - "mrr_at_1": 0.39804, - "mrr_at_3": 0.48835, - "mrr_at_5": 0.50337, - "mrr_at_10": 0.51274, - "mrr_at_50": 0.51679, - "mrr_at_100": 0.517, - "mrr_at_1000": 0.517 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.41945, - "ndcg_at_3": 0.41843, - "ndcg_at_5": 0.43023, - "ndcg_at_10": 0.46191, - "ndcg_at_50": 0.51585, - "ndcg_at_100": 0.52014, - "ndcg_at_1000": 0.52014, - "map_at_1": 0.20647, - "map_at_3": 0.29621, - "map_at_5": 0.33242, - "map_at_10": 0.36637, - "map_at_50": 0.3911, - "map_at_100": 0.39185, - "map_at_1000": 0.39185, - "recall_at_1": 0.20647, - "recall_at_3": 0.35926, - "recall_at_5": 0.43831, - "recall_at_10": 0.53646, - "recall_at_50": 0.68462, - "recall_at_100": 0.70321, - "recall_at_1000": 0.70321, - "precision_at_1": 0.41945, - "precision_at_3": 0.29565, - "precision_at_5": 0.23913, - "precision_at_10": 0.16221, - "precision_at_50": 0.04551, - "precision_at_100": 0.02336, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.41945, - "mrr_at_3": 0.51679, - "mrr_at_5": 0.53311, - "mrr_at_10": 0.54271, - "mrr_at_50": 0.54707, - "mrr_at_100": 0.54723, - "mrr_at_1000": 0.54723 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.47399, - "ndcg_at_3": 0.42403, - "ndcg_at_5": 0.4394, - "ndcg_at_10": 0.49636, - "ndcg_at_50": 0.58717, - "ndcg_at_100": 0.59705, - "ndcg_at_1000": 0.59705, - "map_at_1": 0.14827, - "map_at_3": 0.25982, - "map_at_5": 0.31896, - "map_at_10": 0.37637, - "map_at_50": 0.41851, - "map_at_100": 0.42046, - "map_at_1000": 0.42046, - "recall_at_1": 0.14827, - "recall_at_3": 0.31022, - "recall_at_5": 0.42879, - "recall_at_10": 0.58761, - "recall_at_50": 0.84767, - "recall_at_100": 0.8899, - "recall_at_1000": 0.8899, - "precision_at_1": 0.47399, - "precision_at_3": 0.35838, - "precision_at_5": 0.30694, - "precision_at_10": 0.22197, - "precision_at_50": 0.0659, - "precision_at_100": 0.03442, - "precision_at_1000": 0.00344, - "mrr_at_1": 0.47399, - "mrr_at_3": 0.55925, - "mrr_at_5": 0.57861, - "mrr_at_10": 0.59274, - "mrr_at_50": 0.59825, - "mrr_at_100": 0.59846, - "mrr_at_1000": 0.59846 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.47447, - "ndcg_at_3": 0.4448, - "ndcg_at_5": 0.42896, - "ndcg_at_10": 0.47495, - "ndcg_at_50": 0.57587, - "ndcg_at_100": 0.58923, - "ndcg_at_1000": 0.58923, - "map_at_1": 0.1277, - "map_at_3": 0.25477, - "map_at_5": 0.30271, - "map_at_10": 0.36545, - "map_at_50": 0.4141, - "map_at_100": 0.4167, - "map_at_1000": 0.4167, - "recall_at_1": 0.1277, - "recall_at_3": 0.29845, - "recall_at_5": 0.37759, - "recall_at_10": 0.52602, - "recall_at_50": 0.80608, - "recall_at_100": 0.85973, - "recall_at_1000": 0.85973, - "precision_at_1": 0.47447, - "precision_at_3": 0.39139, - "precision_at_5": 0.31772, - "precision_at_10": 0.23453, - "precision_at_50": 0.07261, - "precision_at_100": 0.03844, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.47447, - "mrr_at_3": 0.56256, - "mrr_at_5": 0.57533, - "mrr_at_10": 0.5874, - "mrr_at_50": 0.59392, - "mrr_at_100": 0.59415, - "mrr_at_1000": 0.59415 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.52959, - "ndcg_at_3": 0.48727, - "ndcg_at_5": 0.48074, - "ndcg_at_10": 0.51972, - "ndcg_at_50": 0.60321, - "ndcg_at_100": 0.61177, - "ndcg_at_1000": 0.61177, - "map_at_1": 0.15635, - "map_at_3": 0.2921, - "map_at_5": 0.35009, - "map_at_10": 0.4102, - "map_at_50": 0.45284, - "map_at_100": 0.45443, - "map_at_1000": 0.45443, - "recall_at_1": 0.15635, - "recall_at_3": 0.32877, - "recall_at_5": 0.42737, - "recall_at_10": 0.57156, - "recall_at_50": 0.79638, - "recall_at_100": 0.83541, - "recall_at_1000": 0.83541, - "precision_at_1": 0.52959, - "precision_at_3": 0.42012, - "precision_at_5": 0.35089, - "precision_at_10": 0.24763, - "precision_at_50": 0.07142, - "precision_at_100": 0.03683, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.52959, - "mrr_at_3": 0.60454, - "mrr_at_5": 0.61948, - "mrr_at_10": 0.62955, - "mrr_at_50": 0.63448, - "mrr_at_100": 0.63476, - "mrr_at_1000": 0.63476 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.52802, - "ndcg_at_3": 0.47652, - "ndcg_at_5": 0.49114, - "ndcg_at_10": 0.54312, - "ndcg_at_50": 0.62766, - "ndcg_at_100": 0.64239, - "ndcg_at_1000": 0.64239, - "map_at_1": 0.17215, - "map_at_3": 0.30866, - "map_at_5": 0.36945, - "map_at_10": 0.43128, - "map_at_50": 0.47281, - "map_at_100": 0.47558, - "map_at_1000": 0.47558, - "recall_at_1": 0.17215, - "recall_at_3": 0.35253, - "recall_at_5": 0.46798, - "recall_at_10": 0.61303, - "recall_at_50": 0.85023, - "recall_at_100": 0.91452, - "recall_at_1000": 0.91452, - "precision_at_1": 0.52802, - "precision_at_3": 0.40413, - "precision_at_5": 0.33805, - "precision_at_10": 0.23717, - "precision_at_50": 0.06802, - "precision_at_100": 0.03611, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.52802, - "mrr_at_3": 0.61455, - "mrr_at_5": 0.63564, - "mrr_at_10": 0.64093, - "mrr_at_50": 0.64617, - "mrr_at_100": 0.6466, - "mrr_at_1000": 0.6466 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.66576, - "ndcg_at_3": 0.63127, - "ndcg_at_5": 0.62364, - "ndcg_at_10": 0.67288, - "ndcg_at_50": 0.74981, - "ndcg_at_100": 0.75315, - "ndcg_at_1000": 0.75315, - "map_at_1": 0.24031, - "map_at_3": 0.42249, - "map_at_5": 0.49167, - "map_at_10": 0.55915, - "map_at_50": 0.60389, - "map_at_100": 0.6047, - "map_at_1000": 0.6047, - "recall_at_1": 0.24031, - "recall_at_3": 0.47219, - "recall_at_5": 0.58431, - "recall_at_10": 0.73103, - "recall_at_50": 0.93609, - "recall_at_100": 0.94898, - "recall_at_1000": 0.94898, - "precision_at_1": 0.66576, - "precision_at_3": 0.52627, - "precision_at_5": 0.41793, - "precision_at_10": 0.28288, - "precision_at_50": 0.0756, - "precision_at_100": 0.03834, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.66576, - "mrr_at_3": 0.76223, - "mrr_at_5": 0.76984, - "mrr_at_10": 0.77623, - "mrr_at_50": 0.77832, - "mrr_at_100": 0.77832, - "mrr_at_1000": 0.77832 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.52679, - "ndcg_at_3": 0.48582, - "ndcg_at_5": 0.49069, - "ndcg_at_10": 0.54022, - "ndcg_at_50": 0.60695, - "ndcg_at_100": 0.61256, - "ndcg_at_1000": 0.61256, - "map_at_1": 0.22886, - "map_at_3": 0.36548, - "map_at_5": 0.40802, - "map_at_10": 0.44959, - "map_at_50": 0.47975, - "map_at_100": 0.48068, - "map_at_1000": 0.48068, - "recall_at_1": 0.22886, - "recall_at_3": 0.40592, - "recall_at_5": 0.48358, - "recall_at_10": 0.61418, - "recall_at_50": 0.81118, - "recall_at_100": 0.83639, - "recall_at_1000": 0.83639, - "precision_at_1": 0.52679, - "precision_at_3": 0.36806, - "precision_at_5": 0.28333, - "precision_at_10": 0.18839, - "precision_at_50": 0.05262, - "precision_at_100": 0.02708, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.52679, - "mrr_at_3": 0.59077, - "mrr_at_5": 0.60015, - "mrr_at_10": 0.61144, - "mrr_at_50": 0.61659, - "mrr_at_100": 0.61675, - "mrr_at_1000": 0.61675 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.59437, - "ndcg_at_3": 0.54613, - "ndcg_at_5": 0.56646, - "ndcg_at_10": 0.60905, - "ndcg_at_50": 0.667, - "ndcg_at_100": 0.67132, - "ndcg_at_1000": 0.67132, - "map_at_1": 0.27286, - "map_at_3": 0.42374, - "map_at_5": 0.47026, - "map_at_10": 0.50531, - "map_at_50": 0.53087, - "map_at_100": 0.53166, - "map_at_1000": 0.53166, - "recall_at_1": 0.27286, - "recall_at_3": 0.49489, - "recall_at_5": 0.595, - "recall_at_10": 0.69772, - "recall_at_50": 0.87193, - "recall_at_100": 0.89179, - "recall_at_1000": 0.89179, - "precision_at_1": 0.59437, - "precision_at_3": 0.39624, - "precision_at_5": 0.29803, - "precision_at_10": 0.18423, - "precision_at_50": 0.04806, - "precision_at_100": 0.02454, - "precision_at_1000": 0.00245, - "mrr_at_1": 0.59437, - "mrr_at_3": 0.68122, - "mrr_at_5": 0.69474, - "mrr_at_10": 0.70106, - "mrr_at_50": 0.70525, - "mrr_at_100": 0.7054, - "mrr_at_1000": 0.7054 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.55182, - "ndcg_at_3": 0.51555, - "ndcg_at_5": 0.54091, - "ndcg_at_10": 0.59312, - "ndcg_at_50": 0.65209, - "ndcg_at_100": 0.65953, - "ndcg_at_1000": 0.65953, - "map_at_1": 0.2799, - "map_at_3": 0.41342, - "map_at_5": 0.45453, - "map_at_10": 0.4939, - "map_at_50": 0.51945, - "map_at_100": 0.52071, - "map_at_1000": 0.52071, - "recall_at_1": 0.2799, - "recall_at_3": 0.47011, - "recall_at_5": 0.56635, - "recall_at_10": 0.68755, - "recall_at_50": 0.86244, - "recall_at_100": 0.89809, - "recall_at_1000": 0.89809, - "precision_at_1": 0.55182, - "precision_at_3": 0.35574, - "precision_at_5": 0.27171, - "precision_at_10": 0.17703, - "precision_at_50": 0.04711, - "precision_at_100": 0.0244, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.55182, - "mrr_at_3": 0.63352, - "mrr_at_5": 0.65341, - "mrr_at_10": 0.66114, - "mrr_at_50": 0.66602, - "mrr_at_100": 0.66627, - "mrr_at_1000": 0.66627 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.60753, - "ndcg_at_3": 0.55313, - "ndcg_at_5": 0.57326, - "ndcg_at_10": 0.6148, - "ndcg_at_50": 0.67018, - "ndcg_at_100": 0.6759, - "ndcg_at_1000": 0.6759, - "map_at_1": 0.33358, - "map_at_3": 0.45863, - "map_at_5": 0.49637, - "map_at_10": 0.52604, - "map_at_50": 0.55071, - "map_at_100": 0.55164, - "map_at_1000": 0.55164, - "recall_at_1": 0.33358, - "recall_at_3": 0.50516, - "recall_at_5": 0.58634, - "recall_at_10": 0.67927, - "recall_at_50": 0.84061, - "recall_at_100": 0.86718, - "recall_at_1000": 0.86718, - "precision_at_1": 0.60753, - "precision_at_3": 0.35573, - "precision_at_5": 0.26935, - "precision_at_10": 0.16801, - "precision_at_50": 0.04527, - "precision_at_100": 0.02333, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.60753, - "mrr_at_3": 0.67518, - "mrr_at_5": 0.69064, - "mrr_at_10": 0.69802, - "mrr_at_50": 0.70094, - "mrr_at_100": 0.70115, - "mrr_at_1000": 0.70115 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.37978, - "ndcg_at_3": 0.36055, - "ndcg_at_5": 0.36841, - "ndcg_at_10": 0.41686, - "ndcg_at_50": 0.51895, - "ndcg_at_100": 0.53127, - "ndcg_at_1000": 0.53127, - "map_at_1": 0.15482, - "map_at_3": 0.24987, - "map_at_5": 0.28298, - "map_at_10": 0.3193, - "map_at_50": 0.35886, - "map_at_100": 0.36081, - "map_at_1000": 0.36081, - "recall_at_1": 0.15482, - "recall_at_3": 0.30941, - "recall_at_5": 0.38112, - "recall_at_10": 0.49753, - "recall_at_50": 0.81539, - "recall_at_100": 0.8726, - "recall_at_1000": 0.8726, - "precision_at_1": 0.37978, - "precision_at_3": 0.28051, - "precision_at_5": 0.21858, - "precision_at_10": 0.15519, - "precision_at_50": 0.05219, - "precision_at_100": 0.02762, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.37978, - "mrr_at_3": 0.4663, - "mrr_at_5": 0.47969, - "mrr_at_10": 0.49363, - "mrr_at_50": 0.50419, - "mrr_at_100": 0.50464, - "mrr_at_1000": 0.50464 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.44865, - "ndcg_at_3": 0.45879, - "ndcg_at_5": 0.49498, - "ndcg_at_10": 0.55846, - "ndcg_at_50": 0.62752, - "ndcg_at_100": 0.6341, - "ndcg_at_1000": 0.6341, - "map_at_1": 0.25141, - "map_at_3": 0.37296, - "map_at_5": 0.41548, - "map_at_10": 0.45895, - "map_at_50": 0.48464, - "map_at_100": 0.48564, - "map_at_1000": 0.48564, - "recall_at_1": 0.25141, - "recall_at_3": 0.45084, - "recall_at_5": 0.55079, - "recall_at_10": 0.70572, - "recall_at_50": 0.9377, - "recall_at_100": 0.97077, - "recall_at_1000": 0.97077, - "precision_at_1": 0.44865, - "precision_at_3": 0.3009, - "precision_at_5": 0.23892, - "precision_at_10": 0.16162, - "precision_at_50": 0.04465, - "precision_at_100": 0.023, - "precision_at_1000": 0.0023, - "mrr_at_1": 0.44865, - "mrr_at_3": 0.55, - "mrr_at_5": 0.56662, - "mrr_at_10": 0.57928, - "mrr_at_50": 0.58633, - "mrr_at_100": 0.58651, - "mrr_at_1000": 0.58651 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.35583, - "ndcg_at_3": 0.40843, - "ndcg_at_5": 0.44851, - "ndcg_at_10": 0.50493, - "ndcg_at_50": 0.55554, - "ndcg_at_100": 0.56346, - "ndcg_at_1000": 0.56346, - "map_at_1": 0.23175, - "map_at_3": 0.34618, - "map_at_5": 0.38193, - "map_at_10": 0.41658, - "map_at_50": 0.43393, - "map_at_100": 0.4349, - "map_at_1000": 0.4349, - "recall_at_1": 0.23175, - "recall_at_3": 0.42881, - "recall_at_5": 0.5277, - "recall_at_10": 0.6663, - "recall_at_50": 0.84714, - "recall_at_100": 0.89054, - "recall_at_1000": 0.89054, - "precision_at_1": 0.35583, - "precision_at_3": 0.2546, - "precision_at_5": 0.19755, - "precision_at_10": 0.1319, - "precision_at_50": 0.03393, - "precision_at_100": 0.01764, - "precision_at_1000": 0.00176, - "mrr_at_1": 0.35583, - "mrr_at_3": 0.46063, - "mrr_at_5": 0.48073, - "mrr_at_10": 0.49453, - "mrr_at_50": 0.50101, - "mrr_at_100": 0.5014, - "mrr_at_1000": 0.5014 - }, - "gpt3": { - "ndcg_at_1": 0.30564, - "ndcg_at_3": 0.34724, - "ndcg_at_5": 0.40226, - "ndcg_at_10": 0.45838, - "ndcg_at_50": 0.51236, - "ndcg_at_100": 0.52184, - "ndcg_at_1000": 0.52184, - "map_at_1": 0.23615, - "map_at_3": 0.31071, - "map_at_5": 0.3433, - "map_at_10": 0.37087, - "map_at_50": 0.38531, - "map_at_100": 0.38644, - "map_at_1000": 0.38644, - "recall_at_1": 0.23615, - "recall_at_3": 0.38922, - "recall_at_5": 0.51088, - "recall_at_10": 0.66123, - "recall_at_50": 0.87636, - "recall_at_100": 0.92928, - "recall_at_1000": 0.92928, - "precision_at_1": 0.30564, - "precision_at_3": 0.17013, - "precision_at_5": 0.14006, - "precision_at_10": 0.09436, - "precision_at_50": 0.02576, - "precision_at_100": 0.01362, - "precision_at_1000": 0.00136, - "mrr_at_1": 0.30564, - "mrr_at_3": 0.37488, - "mrr_at_5": 0.40737, - "mrr_at_10": 0.42803, - "mrr_at_50": 0.43613, - "mrr_at_100": 0.43672, - "mrr_at_1000": 0.43672 - }, - "llm-survey": { - "ndcg_at_1": 0.43137, - "ndcg_at_3": 0.41722, - "ndcg_at_5": 0.43762, - "ndcg_at_10": 0.4799, - "ndcg_at_50": 0.54291, - "ndcg_at_100": 0.55289, - "ndcg_at_1000": 0.55289, - "map_at_1": 0.20008, - "map_at_3": 0.3199, - "map_at_5": 0.35773, - "map_at_10": 0.39068, - "map_at_50": 0.41484, - "map_at_100": 0.41619, - "map_at_1000": 0.41619, - "recall_at_1": 0.20008, - "recall_at_3": 0.38174, - "recall_at_5": 0.46063, - "recall_at_10": 0.56598, - "recall_at_50": 0.7774, - "recall_at_100": 0.82866, - "recall_at_1000": 0.82866, - "precision_at_1": 0.43137, - "precision_at_3": 0.30812, - "precision_at_5": 0.23585, - "precision_at_10": 0.1535, - "precision_at_50": 0.04224, - "precision_at_100": 0.0221, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.43137, - "mrr_at_3": 0.52241, - "mrr_at_5": 0.53319, - "mrr_at_10": 0.54172, - "mrr_at_50": 0.54799, - "mrr_at_100": 0.54849, - "mrr_at_1000": 0.54849 - }, - "gemini": { - "ndcg_at_1": 0.38554, - "ndcg_at_3": 0.49569, - "ndcg_at_5": 0.51557, - "ndcg_at_10": 0.5495, - "ndcg_at_50": 0.58826, - "ndcg_at_100": 0.59357, - "ndcg_at_1000": 0.59357, - "map_at_1": 0.38554, - "map_at_3": 0.46854, - "map_at_5": 0.47959, - "map_at_10": 0.49367, - "map_at_50": 0.50227, - "map_at_100": 0.50277, - "map_at_1000": 0.50277, - "recall_at_1": 0.38554, - "recall_at_3": 0.5743, - "recall_at_5": 0.62249, - "recall_at_10": 0.72691, - "recall_at_50": 0.8996, - "recall_at_100": 0.93173, - "recall_at_1000": 0.93173, - "precision_at_1": 0.38554, - "precision_at_3": 0.19143, - "precision_at_5": 0.1245, - "precision_at_10": 0.07269, - "precision_at_50": 0.01799, - "precision_at_100": 0.00932, - "precision_at_1000": 0.00093, - "mrr_at_1": 0.38554, - "mrr_at_3": 0.46854, - "mrr_at_5": 0.47959, - "mrr_at_10": 0.49367, - "mrr_at_50": 0.50227, - "mrr_at_100": 0.50277, - "mrr_at_1000": 0.50277 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.25097, - "ndcg_at_3": 0.2328, - "ndcg_at_5": 0.23744, - "ndcg_at_10": 0.25492, - "ndcg_at_50": 0.29286, - "ndcg_at_100": 0.29855, - "ndcg_at_1000": 0.29855, - "map_at_1": 0.09919, - "map_at_3": 0.15402, - "map_at_5": 0.17661, - "map_at_10": 0.19778, - "map_at_50": 0.21439, - "map_at_100": 0.21532, - "map_at_1000": 0.21532, - "recall_at_1": 0.09919, - "recall_at_3": 0.18158, - "recall_at_5": 0.22944, - "recall_at_10": 0.28893, - "recall_at_50": 0.39789, - "recall_at_100": 0.42198, - "recall_at_1000": 0.42198, - "precision_at_1": 0.25097, - "precision_at_3": 0.18138, - "precision_at_5": 0.14681, - "precision_at_10": 0.10039, - "precision_at_50": 0.02926, - "precision_at_100": 0.01549, - "precision_at_1000": 0.00155, - "mrr_at_1": 0.25097, - "mrr_at_3": 0.29937, - "mrr_at_5": 0.31123, - "mrr_at_10": 0.31791, - "mrr_at_50": 0.32222, - "mrr_at_100": 0.32248, - "mrr_at_1000": 0.32248 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.41512, - "ndcg_at_3": 0.42662, - "ndcg_at_5": 0.44144, - "ndcg_at_10": 0.47474, - "ndcg_at_50": 0.5311, - "ndcg_at_100": 0.53833, - "ndcg_at_1000": 0.53833, - "map_at_1": 0.1908, - "map_at_3": 0.29521, - "map_at_5": 0.34105, - "map_at_10": 0.3864, - "map_at_50": 0.41596, - "map_at_100": 0.41725, - "map_at_1000": 0.41725, - "recall_at_1": 0.1908, - "recall_at_3": 0.35004, - "recall_at_5": 0.43627, - "recall_at_10": 0.54804, - "recall_at_50": 0.69703, - "recall_at_100": 0.72714, - "recall_at_1000": 0.72714, - "precision_at_1": 0.41512, - "precision_at_3": 0.32156, - "precision_at_5": 0.2689, - "precision_at_10": 0.19046, - "precision_at_50": 0.0531, - "precision_at_100": 0.02767, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.41512, - "mrr_at_3": 0.50836, - "mrr_at_5": 0.52454, - "mrr_at_10": 0.53377, - "mrr_at_50": 0.53774, - "mrr_at_100": 0.53799, - "mrr_at_1000": 0.53799 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.42586, - "ndcg_at_3": 0.40488, - "ndcg_at_5": 0.40328, - "ndcg_at_10": 0.43629, - "ndcg_at_50": 0.54381, - "ndcg_at_100": 0.56036, - "ndcg_at_1000": 0.56036, - "map_at_1": 0.11583, - "map_at_3": 0.21701, - "map_at_5": 0.26662, - "map_at_10": 0.32536, - "map_at_50": 0.37997, - "map_at_100": 0.38382, - "map_at_1000": 0.38382, - "recall_at_1": 0.11583, - "recall_at_3": 0.25927, - "recall_at_5": 0.34812, - "recall_at_10": 0.48684, - "recall_at_50": 0.75895, - "recall_at_100": 0.8193, - "recall_at_1000": 0.8193, - "precision_at_1": 0.42586, - "precision_at_3": 0.35649, - "precision_at_5": 0.31037, - "precision_at_10": 0.23526, - "precision_at_50": 0.07888, - "precision_at_100": 0.04259, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.42649, - "mrr_at_3": 0.51809, - "mrr_at_5": 0.53789, - "mrr_at_10": 0.54963, - "mrr_at_50": 0.5557, - "mrr_at_100": 0.55597, - "mrr_at_1000": 0.55597 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.43761, - "ndcg_at_3": 0.41639, - "ndcg_at_5": 0.43315, - "ndcg_at_10": 0.47275, - "ndcg_at_50": 0.5307, - "ndcg_at_100": 0.5405, - "ndcg_at_1000": 0.5405, - "map_at_1": 0.19267, - "map_at_3": 0.30741, - "map_at_5": 0.34572, - "map_at_10": 0.37739, - "map_at_50": 0.40085, - "map_at_100": 0.40237, - "map_at_1000": 0.40237, - "recall_at_1": 0.19267, - "recall_at_3": 0.36527, - "recall_at_5": 0.44849, - "recall_at_10": 0.55342, - "recall_at_50": 0.73003, - "recall_at_100": 0.77548, - "recall_at_1000": 0.77548, - "precision_at_1": 0.43761, - "precision_at_3": 0.31127, - "precision_at_5": 0.24265, - "precision_at_10": 0.15782, - "precision_at_50": 0.04368, - "precision_at_100": 0.0231, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.43761, - "mrr_at_3": 0.52783, - "mrr_at_5": 0.54323, - "mrr_at_10": 0.55335, - "mrr_at_50": 0.55832, - "mrr_at_100": 0.5587, - "mrr_at_1000": 0.5587 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.41514, - "ndcg_at_3": 0.43837, - "ndcg_at_5": 0.45715, - "ndcg_at_10": 0.48255, - "ndcg_at_50": 0.51544, - "ndcg_at_100": 0.51899, - "ndcg_at_1000": 0.51899, - "map_at_1": 0.25342, - "map_at_3": 0.36553, - "map_at_5": 0.3968, - "map_at_10": 0.42112, - "map_at_50": 0.43498, - "map_at_100": 0.4355, - "map_at_1000": 0.4355, - "recall_at_1": 0.25342, - "recall_at_3": 0.42785, - "recall_at_5": 0.49841, - "recall_at_10": 0.5694, - "recall_at_50": 0.67536, - "recall_at_100": 0.69304, - "recall_at_1000": 0.69304, - "precision_at_1": 0.41514, - "precision_at_3": 0.27192, - "precision_at_5": 0.20454, - "precision_at_10": 0.12744, - "precision_at_50": 0.032, - "precision_at_100": 0.0164, - "precision_at_1000": 0.00164, - "mrr_at_1": 0.41577, - "mrr_at_3": 0.48444, - "mrr_at_5": 0.49583, - "mrr_at_10": 0.50078, - "mrr_at_50": 0.50429, - "mrr_at_100": 0.5045, - "mrr_at_1000": 0.5045 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.57209, - "ndcg_at_3": 0.54127, - "ndcg_at_5": 0.55772, - "ndcg_at_10": 0.58439, - "ndcg_at_50": 0.61207, - "ndcg_at_100": 0.61607, - "ndcg_at_1000": 0.61607, - "map_at_1": 0.33873, - "map_at_3": 0.45009, - "map_at_5": 0.48173, - "map_at_10": 0.50409, - "map_at_50": 0.51571, - "map_at_100": 0.51631, - "map_at_1000": 0.51631, - "recall_at_1": 0.33873, - "recall_at_3": 0.50667, - "recall_at_5": 0.57629, - "recall_at_10": 0.64604, - "recall_at_50": 0.72993, - "recall_at_100": 0.74856, - "recall_at_1000": 0.74856, - "precision_at_1": 0.57209, - "precision_at_3": 0.33295, - "precision_at_5": 0.24273, - "precision_at_10": 0.14493, - "precision_at_50": 0.03453, - "precision_at_100": 0.01778, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.57267, - "mrr_at_3": 0.64669, - "mrr_at_5": 0.65894, - "mrr_at_10": 0.6646, - "mrr_at_50": 0.66717, - "mrr_at_100": 0.66731, - "mrr_at_1000": 0.66731 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.38244, - "ndcg_at_3": 0.35555, - "ndcg_at_5": 0.36644, - "ndcg_at_10": 0.40638, - "ndcg_at_50": 0.46041, - "ndcg_at_100": 0.46621, - "ndcg_at_1000": 0.46621, - "map_at_1": 0.16224, - "map_at_3": 0.24496, - "map_at_5": 0.27721, - "map_at_10": 0.31051, - "map_at_50": 0.33327, - "map_at_100": 0.33416, - "map_at_1000": 0.33416, - "recall_at_1": 0.16224, - "recall_at_3": 0.29711, - "recall_at_5": 0.37148, - "recall_at_10": 0.48032, - "recall_at_50": 0.64044, - "recall_at_100": 0.66718, - "recall_at_1000": 0.66718, - "precision_at_1": 0.38244, - "precision_at_3": 0.26728, - "precision_at_5": 0.21329, - "precision_at_10": 0.14633, - "precision_at_50": 0.04102, - "precision_at_100": 0.02124, - "precision_at_1000": 0.00212, - "mrr_at_1": 0.38302, - "mrr_at_3": 0.46852, - "mrr_at_5": 0.48559, - "mrr_at_10": 0.49517, - "mrr_at_50": 0.50007, - "mrr_at_100": 0.50036, - "mrr_at_1000": 0.50036 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.43117, - "ndcg_at_3": 0.42597, - "ndcg_at_5": 0.43116, - "ndcg_at_10": 0.46162, - "ndcg_at_50": 0.51638, - "ndcg_at_100": 0.52238, - "ndcg_at_1000": 0.52238, - "map_at_1": 0.21349, - "map_at_3": 0.30482, - "map_at_5": 0.33743, - "map_at_10": 0.3699, - "map_at_50": 0.3943, - "map_at_100": 0.39545, - "map_at_1000": 0.39545, - "recall_at_1": 0.21349, - "recall_at_3": 0.36506, - "recall_at_5": 0.4323, - "recall_at_10": 0.52572, - "recall_at_50": 0.67845, - "recall_at_100": 0.70321, - "recall_at_1000": 0.70321, - "precision_at_1": 0.43117, - "precision_at_3": 0.2974, - "precision_at_5": 0.23386, - "precision_at_10": 0.1587, - "precision_at_50": 0.04489, - "precision_at_100": 0.02336, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.43117, - "mrr_at_3": 0.52636, - "mrr_at_5": 0.53989, - "mrr_at_10": 0.54916, - "mrr_at_50": 0.55382, - "mrr_at_100": 0.55401, - "mrr_at_1000": 0.55401 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.45087, - "ndcg_at_3": 0.40215, - "ndcg_at_5": 0.40976, - "ndcg_at_10": 0.4597, - "ndcg_at_50": 0.56088, - "ndcg_at_100": 0.57695, - "ndcg_at_1000": 0.57695, - "map_at_1": 0.1494, - "map_at_3": 0.2575, - "map_at_5": 0.30193, - "map_at_10": 0.3501, - "map_at_50": 0.39581, - "map_at_100": 0.39872, - "map_at_1000": 0.39872, - "recall_at_1": 0.1494, - "recall_at_3": 0.29208, - "recall_at_5": 0.38731, - "recall_at_10": 0.5322, - "recall_at_50": 0.8199, - "recall_at_100": 0.8899, - "recall_at_1000": 0.8899, - "precision_at_1": 0.45087, - "precision_at_3": 0.33719, - "precision_at_5": 0.28092, - "precision_at_10": 0.20058, - "precision_at_50": 0.06422, - "precision_at_100": 0.03442, - "precision_at_1000": 0.00344, - "mrr_at_1": 0.45087, - "mrr_at_3": 0.51927, - "mrr_at_5": 0.5421, - "mrr_at_10": 0.55784, - "mrr_at_50": 0.56488, - "mrr_at_100": 0.56517, - "mrr_at_1000": 0.56517 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.44444, - "ndcg_at_3": 0.39833, - "ndcg_at_5": 0.4014, - "ndcg_at_10": 0.4378, - "ndcg_at_50": 0.54699, - "ndcg_at_100": 0.56479, - "ndcg_at_1000": 0.56479, - "map_at_1": 0.12475, - "map_at_3": 0.22648, - "map_at_5": 0.27665, - "map_at_10": 0.32681, - "map_at_50": 0.37859, - "map_at_100": 0.38238, - "map_at_1000": 0.38238, - "recall_at_1": 0.12475, - "recall_at_3": 0.26263, - "recall_at_5": 0.36099, - "recall_at_10": 0.48944, - "recall_at_50": 0.78907, - "recall_at_100": 0.85973, - "recall_at_1000": 0.85973, - "precision_at_1": 0.44444, - "precision_at_3": 0.34635, - "precision_at_5": 0.3009, - "precision_at_10": 0.21321, - "precision_at_50": 0.07099, - "precision_at_100": 0.03844, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.44444, - "mrr_at_3": 0.52002, - "mrr_at_5": 0.54374, - "mrr_at_10": 0.55541, - "mrr_at_50": 0.56184, - "mrr_at_100": 0.56208, - "mrr_at_1000": 0.56208 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.49704, - "ndcg_at_3": 0.45613, - "ndcg_at_5": 0.45455, - "ndcg_at_10": 0.48599, - "ndcg_at_50": 0.57951, - "ndcg_at_100": 0.59091, - "ndcg_at_1000": 0.59091, - "map_at_1": 0.15136, - "map_at_3": 0.26836, - "map_at_5": 0.32479, - "map_at_10": 0.37875, - "map_at_50": 0.42515, - "map_at_100": 0.42732, - "map_at_1000": 0.42732, - "recall_at_1": 0.15136, - "recall_at_3": 0.30789, - "recall_at_5": 0.40612, - "recall_at_10": 0.53554, - "recall_at_50": 0.78922, - "recall_at_100": 0.83541, - "recall_at_1000": 0.83541, - "precision_at_1": 0.49704, - "precision_at_3": 0.3925, - "precision_at_5": 0.33314, - "precision_at_10": 0.23107, - "precision_at_50": 0.07012, - "precision_at_100": 0.03683, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.49704, - "mrr_at_3": 0.5789, - "mrr_at_5": 0.59265, - "mrr_at_10": 0.60222, - "mrr_at_50": 0.60811, - "mrr_at_100": 0.60845, - "mrr_at_1000": 0.60845 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.50442, - "ndcg_at_3": 0.44409, - "ndcg_at_5": 0.44556, - "ndcg_at_10": 0.49896, - "ndcg_at_50": 0.60049, - "ndcg_at_100": 0.61595, - "ndcg_at_1000": 0.61595, - "map_at_1": 0.16642, - "map_at_3": 0.28594, - "map_at_5": 0.33284, - "map_at_10": 0.38675, - "map_at_50": 0.43456, - "map_at_100": 0.43755, - "map_at_1000": 0.43755, - "recall_at_1": 0.16642, - "recall_at_3": 0.32582, - "recall_at_5": 0.41435, - "recall_at_10": 0.56067, - "recall_at_50": 0.84989, - "recall_at_100": 0.91452, - "recall_at_1000": 0.91452, - "precision_at_1": 0.50442, - "precision_at_3": 0.37561, - "precision_at_5": 0.30206, - "precision_at_10": 0.21799, - "precision_at_50": 0.06749, - "precision_at_100": 0.03611, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.50442, - "mrr_at_3": 0.58456, - "mrr_at_5": 0.5999, - "mrr_at_10": 0.61439, - "mrr_at_50": 0.62034, - "mrr_at_100": 0.62074, - "mrr_at_1000": 0.62074 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.68207, - "ndcg_at_3": 0.62088, - "ndcg_at_5": 0.61581, - "ndcg_at_10": 0.66482, - "ndcg_at_50": 0.74375, - "ndcg_at_100": 0.74935, - "ndcg_at_1000": 0.74935, - "map_at_1": 0.25092, - "map_at_3": 0.41759, - "map_at_5": 0.48586, - "map_at_10": 0.55349, - "map_at_50": 0.59896, - "map_at_100": 0.60012, - "map_at_1000": 0.60012, - "recall_at_1": 0.25092, - "recall_at_3": 0.45565, - "recall_at_5": 0.57072, - "recall_at_10": 0.71609, - "recall_at_50": 0.92583, - "recall_at_100": 0.94898, - "recall_at_1000": 0.94898, - "precision_at_1": 0.68207, - "precision_at_3": 0.50725, - "precision_at_5": 0.40598, - "precision_at_10": 0.27745, - "precision_at_50": 0.075, - "precision_at_100": 0.03834, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.68207, - "mrr_at_3": 0.75815, - "mrr_at_5": 0.7716, - "mrr_at_10": 0.77547, - "mrr_at_50": 0.77789, - "mrr_at_100": 0.77797, - "mrr_at_1000": 0.77797 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.5, - "ndcg_at_3": 0.48496, - "ndcg_at_5": 0.49531, - "ndcg_at_10": 0.53671, - "ndcg_at_50": 0.59989, - "ndcg_at_100": 0.60947, - "ndcg_at_1000": 0.60947, - "map_at_1": 0.22363, - "map_at_3": 0.36459, - "map_at_5": 0.40861, - "map_at_10": 0.44653, - "map_at_50": 0.47433, - "map_at_100": 0.47594, - "map_at_1000": 0.47594, - "recall_at_1": 0.22363, - "recall_at_3": 0.41619, - "recall_at_5": 0.50085, - "recall_at_10": 0.61221, - "recall_at_50": 0.79297, - "recall_at_100": 0.83639, - "recall_at_1000": 0.83639, - "precision_at_1": 0.5, - "precision_at_3": 0.3631, - "precision_at_5": 0.28214, - "precision_at_10": 0.18363, - "precision_at_50": 0.05173, - "precision_at_100": 0.02708, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.5, - "mrr_at_3": 0.5878, - "mrr_at_5": 0.59866, - "mrr_at_10": 0.60681, - "mrr_at_50": 0.61116, - "mrr_at_100": 0.61152, - "mrr_at_1000": 0.61152 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.55211, - "ndcg_at_3": 0.52455, - "ndcg_at_5": 0.54955, - "ndcg_at_10": 0.60168, - "ndcg_at_50": 0.65692, - "ndcg_at_100": 0.6611, - "ndcg_at_1000": 0.6611, - "map_at_1": 0.26499, - "map_at_3": 0.40793, - "map_at_5": 0.45684, - "map_at_10": 0.49831, - "map_at_50": 0.52183, - "map_at_100": 0.52259, - "map_at_1000": 0.52259, - "recall_at_1": 0.26499, - "recall_at_3": 0.4744, - "recall_at_5": 0.57528, - "recall_at_10": 0.69852, - "recall_at_50": 0.87268, - "recall_at_100": 0.89179, - "recall_at_1000": 0.89179, - "precision_at_1": 0.55211, - "precision_at_3": 0.37465, - "precision_at_5": 0.29127, - "precision_at_10": 0.18817, - "precision_at_50": 0.048, - "precision_at_100": 0.02454, - "precision_at_1000": 0.00245, - "mrr_at_1": 0.55211, - "mrr_at_3": 0.65117, - "mrr_at_5": 0.66413, - "mrr_at_10": 0.67251, - "mrr_at_50": 0.67659, - "mrr_at_100": 0.67666, - "mrr_at_1000": 0.67666 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.52941, - "ndcg_at_3": 0.49501, - "ndcg_at_5": 0.51627, - "ndcg_at_10": 0.56738, - "ndcg_at_50": 0.63194, - "ndcg_at_100": 0.64008, - "ndcg_at_1000": 0.64008, - "map_at_1": 0.26463, - "map_at_3": 0.39066, - "map_at_5": 0.42749, - "map_at_10": 0.46361, - "map_at_50": 0.49116, - "map_at_100": 0.49233, - "map_at_1000": 0.49233, - "recall_at_1": 0.26463, - "recall_at_3": 0.45623, - "recall_at_5": 0.54487, - "recall_at_10": 0.66345, - "recall_at_50": 0.85735, - "recall_at_100": 0.89809, - "recall_at_1000": 0.89809, - "precision_at_1": 0.52941, - "precision_at_3": 0.34267, - "precision_at_5": 0.2577, - "precision_at_10": 0.16835, - "precision_at_50": 0.04706, - "precision_at_100": 0.0244, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.52941, - "mrr_at_3": 0.61858, - "mrr_at_5": 0.63511, - "mrr_at_10": 0.64491, - "mrr_at_50": 0.6489, - "mrr_at_100": 0.64925, - "mrr_at_1000": 0.64925 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.55108, - "ndcg_at_3": 0.51921, - "ndcg_at_5": 0.52861, - "ndcg_at_10": 0.5709, - "ndcg_at_50": 0.63609, - "ndcg_at_100": 0.64347, - "ndcg_at_1000": 0.64347, - "map_at_1": 0.30269, - "map_at_3": 0.42323, - "map_at_5": 0.45307, - "map_at_10": 0.48112, - "map_at_50": 0.50803, - "map_at_100": 0.5092, - "map_at_1000": 0.5092, - "recall_at_1": 0.30269, - "recall_at_3": 0.48204, - "recall_at_5": 0.54286, - "recall_at_10": 0.6386, - "recall_at_50": 0.83344, - "recall_at_100": 0.86718, - "recall_at_1000": 0.86718, - "precision_at_1": 0.55108, - "precision_at_3": 0.33781, - "precision_at_5": 0.24677, - "precision_at_10": 0.15753, - "precision_at_50": 0.04473, - "precision_at_100": 0.02333, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.55108, - "mrr_at_3": 0.63351, - "mrr_at_5": 0.6448, - "mrr_at_10": 0.65536, - "mrr_at_50": 0.65986, - "mrr_at_100": 0.66014, - "mrr_at_1000": 0.66014 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.42623, - "ndcg_at_3": 0.40518, - "ndcg_at_5": 0.42349, - "ndcg_at_10": 0.471, - "ndcg_at_50": 0.55534, - "ndcg_at_100": 0.56764, - "ndcg_at_1000": 0.56764, - "map_at_1": 0.18219, - "map_at_3": 0.29055, - "map_at_5": 0.33186, - "map_at_10": 0.3677, - "map_at_50": 0.4027, - "map_at_100": 0.40471, - "map_at_1000": 0.40471, - "recall_at_1": 0.18219, - "recall_at_3": 0.34446, - "recall_at_5": 0.43496, - "recall_at_10": 0.55802, - "recall_at_50": 0.81389, - "recall_at_100": 0.8726, - "recall_at_1000": 0.8726, - "precision_at_1": 0.42623, - "precision_at_3": 0.30783, - "precision_at_5": 0.25082, - "precision_at_10": 0.17049, - "precision_at_50": 0.0523, - "precision_at_100": 0.02762, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.42623, - "mrr_at_3": 0.51776, - "mrr_at_5": 0.53525, - "mrr_at_10": 0.54829, - "mrr_at_50": 0.55494, - "mrr_at_100": 0.55542, - "mrr_at_1000": 0.55542 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.47568, - "ndcg_at_3": 0.47494, - "ndcg_at_5": 0.51085, - "ndcg_at_10": 0.57381, - "ndcg_at_50": 0.63952, - "ndcg_at_100": 0.64633, - "ndcg_at_1000": 0.64633, - "map_at_1": 0.25636, - "map_at_3": 0.38354, - "map_at_5": 0.42813, - "map_at_10": 0.47129, - "map_at_50": 0.49785, - "map_at_100": 0.49888, - "map_at_1000": 0.49888, - "recall_at_1": 0.25636, - "recall_at_3": 0.46037, - "recall_at_5": 0.56606, - "recall_at_10": 0.71459, - "recall_at_50": 0.93694, - "recall_at_100": 0.97077, - "recall_at_1000": 0.97077, - "precision_at_1": 0.47568, - "precision_at_3": 0.31622, - "precision_at_5": 0.24703, - "precision_at_10": 0.16757, - "precision_at_50": 0.04459, - "precision_at_100": 0.023, - "precision_at_1000": 0.0023, - "mrr_at_1": 0.47568, - "mrr_at_3": 0.57297, - "mrr_at_5": 0.5923, - "mrr_at_10": 0.6052, - "mrr_at_50": 0.61068, - "mrr_at_100": 0.61098, - "mrr_at_1000": 0.61098 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.34049, - "ndcg_at_3": 0.39237, - "ndcg_at_5": 0.43114, - "ndcg_at_10": 0.48432, - "ndcg_at_50": 0.54217, - "ndcg_at_100": 0.54791, - "ndcg_at_1000": 0.54791, - "map_at_1": 0.21705, - "map_at_3": 0.32721, - "map_at_5": 0.36241, - "map_at_10": 0.39508, - "map_at_50": 0.41417, - "map_at_100": 0.41485, - "map_at_1000": 0.41485, - "recall_at_1": 0.21705, - "recall_at_3": 0.41859, - "recall_at_5": 0.52023, - "recall_at_10": 0.64892, - "recall_at_50": 0.85915, - "recall_at_100": 0.89054, - "recall_at_1000": 0.89054, - "precision_at_1": 0.34049, - "precision_at_3": 0.24642, - "precision_at_5": 0.18957, - "precision_at_10": 0.12699, - "precision_at_50": 0.03429, - "precision_at_100": 0.01764, - "precision_at_1000": 0.00176, - "mrr_at_1": 0.34049, - "mrr_at_3": 0.4407, - "mrr_at_5": 0.46109, - "mrr_at_10": 0.47426, - "mrr_at_50": 0.4815, - "mrr_at_100": 0.48187, - "mrr_at_1000": 0.48187 - }, - "gpt3": { - "ndcg_at_1": 0.27893, - "ndcg_at_3": 0.3512, - "ndcg_at_5": 0.40439, - "ndcg_at_10": 0.44933, - "ndcg_at_50": 0.50968, - "ndcg_at_100": 0.51931, - "ndcg_at_1000": 0.51931, - "map_at_1": 0.22601, - "map_at_3": 0.31244, - "map_at_5": 0.34519, - "map_at_10": 0.36753, - "map_at_50": 0.38436, - "map_at_100": 0.38546, - "map_at_1000": 0.38546, - "recall_at_1": 0.22601, - "recall_at_3": 0.40183, - "recall_at_5": 0.51855, - "recall_at_10": 0.63947, - "recall_at_50": 0.87587, - "recall_at_100": 0.92928, - "recall_at_1000": 0.92928, - "precision_at_1": 0.27893, - "precision_at_3": 0.17804, - "precision_at_5": 0.14303, - "precision_at_10": 0.09139, - "precision_at_50": 0.0257, - "precision_at_100": 0.01362, - "precision_at_1000": 0.00136, - "mrr_at_1": 0.27893, - "mrr_at_3": 0.3724, - "mrr_at_5": 0.40045, - "mrr_at_10": 0.41545, - "mrr_at_50": 0.42587, - "mrr_at_100": 0.42652, - "mrr_at_1000": 0.42652 - }, - "llm-survey": { - "ndcg_at_1": 0.38655, - "ndcg_at_3": 0.36241, - "ndcg_at_5": 0.38642, - "ndcg_at_10": 0.42563, - "ndcg_at_50": 0.49736, - "ndcg_at_100": 0.51202, - "ndcg_at_1000": 0.51202, - "map_at_1": 0.17333, - "map_at_3": 0.27306, - "map_at_5": 0.30944, - "map_at_10": 0.33832, - "map_at_50": 0.36303, - "map_at_100": 0.36504, - "map_at_1000": 0.36504, - "recall_at_1": 0.17333, - "recall_at_3": 0.32807, - "recall_at_5": 0.40833, - "recall_at_10": 0.5115, - "recall_at_50": 0.75243, - "recall_at_100": 0.82866, - "recall_at_1000": 0.82866, - "precision_at_1": 0.38655, - "precision_at_3": 0.26704, - "precision_at_5": 0.21232, - "precision_at_10": 0.13725, - "precision_at_50": 0.04129, - "precision_at_100": 0.0221, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.38655, - "mrr_at_3": 0.46405, - "mrr_at_5": 0.48002, - "mrr_at_10": 0.48882, - "mrr_at_50": 0.497, - "mrr_at_100": 0.49765, - "mrr_at_1000": 0.49765 - }, - "gemini": { - "ndcg_at_1": 0.36546, - "ndcg_at_3": 0.45745, - "ndcg_at_5": 0.48647, - "ndcg_at_10": 0.52324, - "ndcg_at_50": 0.56731, - "ndcg_at_100": 0.57252, - "ndcg_at_1000": 0.57252, - "map_at_1": 0.36546, - "map_at_3": 0.43507, - "map_at_5": 0.45074, - "map_at_10": 0.46616, - "map_at_50": 0.47623, - "map_at_100": 0.47669, - "map_at_1000": 0.47669, - "recall_at_1": 0.36546, - "recall_at_3": 0.52209, - "recall_at_5": 0.59438, - "recall_at_10": 0.70683, - "recall_at_50": 0.8996, - "recall_at_100": 0.93173, - "recall_at_1000": 0.93173, - "precision_at_1": 0.36546, - "precision_at_3": 0.17403, - "precision_at_5": 0.11888, - "precision_at_10": 0.07068, - "precision_at_50": 0.01799, - "precision_at_100": 0.00932, - "precision_at_1000": 0.00093, - "mrr_at_1": 0.36948, - "mrr_at_3": 0.43708, - "mrr_at_5": 0.45274, - "mrr_at_10": 0.46821, - "mrr_at_50": 0.4783, - "mrr_at_100": 0.47876, - "mrr_at_1000": 0.47876 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.35425, - "ndcg_at_3": 0.31592, - "ndcg_at_5": 0.315, - "ndcg_at_10": 0.32797, - "ndcg_at_50": 0.34973, - "ndcg_at_100": 0.35248, - "ndcg_at_1000": 0.35248, - "map_at_1": 0.14016, - "map_at_3": 0.21328, - "map_at_5": 0.24264, - "map_at_10": 0.26849, - "map_at_50": 0.28019, - "map_at_100": 0.28061, - "map_at_1000": 0.28061, - "recall_at_1": 0.14016, - "recall_at_3": 0.23949, - "recall_at_5": 0.29142, - "recall_at_10": 0.34862, - "recall_at_50": 0.40919, - "recall_at_100": 0.42198, - "recall_at_1000": 0.42198, - "precision_at_1": 0.35425, - "precision_at_3": 0.24505, - "precision_at_5": 0.193, - "precision_at_10": 0.12554, - "precision_at_50": 0.03027, - "precision_at_100": 0.01549, - "precision_at_1000": 0.00155, - "mrr_at_1": 0.35425, - "mrr_at_3": 0.39709, - "mrr_at_5": 0.40578, - "mrr_at_10": 0.41002, - "mrr_at_50": 0.41179, - "mrr_at_100": 0.41192, - "mrr_at_1000": 0.41192 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.54461, - "ndcg_at_3": 0.53056, - "ndcg_at_5": 0.53688, - "ndcg_at_10": 0.56246, - "ndcg_at_50": 0.60158, - "ndcg_at_100": 0.60379, - "ndcg_at_1000": 0.60379, - "map_at_1": 0.23633, - "map_at_3": 0.36823, - "map_at_5": 0.42532, - "map_at_10": 0.47774, - "map_at_50": 0.50128, - "map_at_100": 0.50172, - "map_at_1000": 0.50172, - "recall_at_1": 0.23633, - "recall_at_3": 0.41397, - "recall_at_5": 0.50744, - "recall_at_10": 0.61496, - "recall_at_50": 0.71757, - "recall_at_100": 0.72714, - "recall_at_1000": 0.72714, - "precision_at_1": 0.54461, - "precision_at_3": 0.40376, - "precision_at_5": 0.33024, - "precision_at_10": 0.22317, - "precision_at_50": 0.05472, - "precision_at_100": 0.02767, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.54523, - "mrr_at_3": 0.62278, - "mrr_at_5": 0.63399, - "mrr_at_10": 0.64011, - "mrr_at_50": 0.64256, - "mrr_at_100": 0.64263, - "mrr_at_1000": 0.64263 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.67558, - "ndcg_at_3": 0.62938, - "ndcg_at_5": 0.61127, - "ndcg_at_10": 0.63138, - "ndcg_at_50": 0.69138, - "ndcg_at_100": 0.69507, - "ndcg_at_1000": 0.69507, - "map_at_1": 0.18349, - "map_at_3": 0.34869, - "map_at_5": 0.43338, - "map_at_10": 0.52201, - "map_at_50": 0.56243, - "map_at_100": 0.56328, - "map_at_1000": 0.56328, - "recall_at_1": 0.18349, - "recall_at_3": 0.38397, - "recall_at_5": 0.50372, - "recall_at_10": 0.65847, - "recall_at_50": 0.80466, - "recall_at_100": 0.8193, - "recall_at_1000": 0.8193, - "precision_at_1": 0.67558, - "precision_at_3": 0.55731, - "precision_at_5": 0.47169, - "precision_at_10": 0.33284, - "precision_at_50": 0.08392, - "precision_at_100": 0.04259, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.67542, - "mrr_at_3": 0.74542, - "mrr_at_5": 0.75453, - "mrr_at_10": 0.75899, - "mrr_at_50": 0.76071, - "mrr_at_100": 0.76079, - "mrr_at_1000": 0.76079 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.49443, - "ndcg_at_3": 0.46364, - "ndcg_at_5": 0.47836, - "ndcg_at_10": 0.53009, - "ndcg_at_50": 0.57538, - "ndcg_at_100": 0.57846, - "ndcg_at_1000": 0.57846, - "map_at_1": 0.21546, - "map_at_3": 0.3396, - "map_at_5": 0.38214, - "map_at_10": 0.42753, - "map_at_50": 0.448, - "map_at_100": 0.44848, - "map_at_1000": 0.44848, - "recall_at_1": 0.21546, - "recall_at_3": 0.39857, - "recall_at_5": 0.48757, - "recall_at_10": 0.62329, - "recall_at_50": 0.76085, - "recall_at_100": 0.77548, - "recall_at_1000": 0.77548, - "precision_at_1": 0.49443, - "precision_at_3": 0.34954, - "precision_at_5": 0.27194, - "precision_at_10": 0.1833, - "precision_at_50": 0.04551, - "precision_at_100": 0.0231, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.49443, - "mrr_at_3": 0.57996, - "mrr_at_5": 0.59531, - "mrr_at_10": 0.60574, - "mrr_at_50": 0.6093, - "mrr_at_100": 0.60942, - "mrr_at_1000": 0.60942 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.49905, - "ndcg_at_3": 0.50543, - "ndcg_at_5": 0.51982, - "ndcg_at_10": 0.54258, - "ndcg_at_50": 0.5657, - "ndcg_at_100": 0.56758, - "ndcg_at_1000": 0.56758, - "map_at_1": 0.31185, - "map_at_3": 0.42887, - "map_at_5": 0.46128, - "map_at_10": 0.48684, - "map_at_50": 0.49806, - "map_at_100": 0.4983, - "map_at_1000": 0.4983, - "recall_at_1": 0.31185, - "recall_at_3": 0.4767, - "recall_at_5": 0.54337, - "recall_at_10": 0.61008, - "recall_at_50": 0.6827, - "recall_at_100": 0.69304, - "recall_at_1000": 0.69304, - "precision_at_1": 0.49905, - "precision_at_3": 0.30894, - "precision_at_5": 0.22852, - "precision_at_10": 0.1395, - "precision_at_50": 0.03247, - "precision_at_100": 0.0164, - "precision_at_1000": 0.00164, - "mrr_at_1": 0.49905, - "mrr_at_3": 0.55447, - "mrr_at_5": 0.56377, - "mrr_at_10": 0.56787, - "mrr_at_50": 0.57, - "mrr_at_100": 0.57012, - "mrr_at_1000": 0.57012 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.71801, - "ndcg_at_3": 0.6505, - "ndcg_at_5": 0.65734, - "ndcg_at_10": 0.67507, - "ndcg_at_50": 0.68981, - "ndcg_at_100": 0.69078, - "ndcg_at_1000": 0.69078, - "map_at_1": 0.41991, - "map_at_3": 0.55346, - "map_at_5": 0.58599, - "map_at_10": 0.60653, - "map_at_50": 0.61367, - "map_at_100": 0.61381, - "map_at_1000": 0.61381, - "recall_at_1": 0.41991, - "recall_at_3": 0.58859, - "recall_at_5": 0.6495, - "recall_at_10": 0.7006, - "recall_at_50": 0.74428, - "recall_at_100": 0.74856, - "recall_at_1000": 0.74856, - "precision_at_1": 0.71801, - "precision_at_3": 0.40243, - "precision_at_5": 0.2835, - "precision_at_10": 0.16167, - "precision_at_50": 0.03531, - "precision_at_100": 0.01778, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.71801, - "mrr_at_3": 0.76346, - "mrr_at_5": 0.76934, - "mrr_at_10": 0.77174, - "mrr_at_50": 0.77309, - "mrr_at_100": 0.77315, - "mrr_at_1000": 0.77315 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.50491, - "ndcg_at_3": 0.45482, - "ndcg_at_5": 0.46037, - "ndcg_at_10": 0.49031, - "ndcg_at_50": 0.527, - "ndcg_at_100": 0.52944, - "ndcg_at_1000": 0.52944, - "map_at_1": 0.20443, - "map_at_3": 0.31496, - "map_at_5": 0.3582, - "map_at_10": 0.39394, - "map_at_50": 0.41109, - "map_at_100": 0.41143, - "map_at_1000": 0.41143, - "recall_at_1": 0.20443, - "recall_at_3": 0.36538, - "recall_at_5": 0.45198, - "recall_at_10": 0.54357, - "recall_at_50": 0.65532, - "recall_at_100": 0.66718, - "recall_at_1000": 0.66718, - "precision_at_1": 0.50491, - "precision_at_3": 0.34835, - "precision_at_5": 0.27187, - "precision_at_10": 0.17348, - "precision_at_50": 0.04194, - "precision_at_100": 0.02124, - "precision_at_1000": 0.00212, - "mrr_at_1": 0.50491, - "mrr_at_3": 0.58251, - "mrr_at_5": 0.59491, - "mrr_at_10": 0.60033, - "mrr_at_50": 0.60297, - "mrr_at_100": 0.60312, - "mrr_at_1000": 0.60312 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.56473, - "ndcg_at_3": 0.531, - "ndcg_at_5": 0.53317, - "ndcg_at_10": 0.55741, - "ndcg_at_50": 0.59083, - "ndcg_at_100": 0.59256, - "ndcg_at_1000": 0.59256, - "map_at_1": 0.26784, - "map_at_3": 0.38009, - "map_at_5": 0.4248, - "map_at_10": 0.46385, - "map_at_50": 0.48156, - "map_at_100": 0.48193, - "map_at_1000": 0.48193, - "recall_at_1": 0.26784, - "recall_at_3": 0.43317, - "recall_at_5": 0.51625, - "recall_at_10": 0.60499, - "recall_at_50": 0.69629, - "recall_at_100": 0.70321, - "recall_at_1000": 0.70321, - "precision_at_1": 0.56473, - "precision_at_3": 0.37805, - "precision_at_5": 0.2969, - "precision_at_10": 0.19139, - "precision_at_50": 0.04616, - "precision_at_100": 0.02336, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.56473, - "mrr_at_3": 0.64714, - "mrr_at_5": 0.65906, - "mrr_at_10": 0.66344, - "mrr_at_50": 0.66533, - "mrr_at_100": 0.66535, - "mrr_at_1000": 0.66535 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65607, - "ndcg_at_3": 0.59789, - "ndcg_at_5": 0.60039, - "ndcg_at_10": 0.65366, - "ndcg_at_50": 0.70546, - "ndcg_at_100": 0.70894, - "ndcg_at_1000": 0.70894, - "map_at_1": 0.21117, - "map_at_3": 0.39241, - "map_at_5": 0.47058, - "map_at_10": 0.5412, - "map_at_50": 0.56976, - "map_at_100": 0.5704, - "map_at_1000": 0.5704, - "recall_at_1": 0.21117, - "recall_at_3": 0.44, - "recall_at_5": 0.56444, - "recall_at_10": 0.72835, - "recall_at_50": 0.87405, - "recall_at_100": 0.8899, - "recall_at_1000": 0.8899, - "precision_at_1": 0.65607, - "precision_at_3": 0.51252, - "precision_at_5": 0.41734, - "precision_at_10": 0.27948, - "precision_at_50": 0.06792, - "precision_at_100": 0.03442, - "precision_at_1000": 0.00344, - "mrr_at_1": 0.65607, - "mrr_at_3": 0.73507, - "mrr_at_5": 0.74432, - "mrr_at_10": 0.7508, - "mrr_at_50": 0.75338, - "mrr_at_100": 0.75351, - "mrr_at_1000": 0.75351 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.67267, - "ndcg_at_3": 0.60833, - "ndcg_at_5": 0.59415, - "ndcg_at_10": 0.64497, - "ndcg_at_50": 0.70309, - "ndcg_at_100": 0.7051, - "ndcg_at_1000": 0.7051, - "map_at_1": 0.19605, - "map_at_3": 0.36664, - "map_at_5": 0.44436, - "map_at_10": 0.53376, - "map_at_50": 0.56926, - "map_at_100": 0.56964, - "map_at_1000": 0.56964, - "recall_at_1": 0.19605, - "recall_at_3": 0.40898, - "recall_at_5": 0.52457, - "recall_at_10": 0.69732, - "recall_at_50": 0.85086, - "recall_at_100": 0.85973, - "recall_at_1000": 0.85973, - "precision_at_1": 0.67267, - "precision_at_3": 0.52953, - "precision_at_5": 0.43604, - "precision_at_10": 0.31021, - "precision_at_50": 0.07634, - "precision_at_100": 0.03844, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.67267, - "mrr_at_3": 0.74024, - "mrr_at_5": 0.7482, - "mrr_at_10": 0.75483, - "mrr_at_50": 0.75649, - "mrr_at_100": 0.75654, - "mrr_at_1000": 0.75654 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71598, - "ndcg_at_3": 0.65587, - "ndcg_at_5": 0.63989, - "ndcg_at_10": 0.67373, - "ndcg_at_50": 0.71531, - "ndcg_at_100": 0.71892, - "ndcg_at_1000": 0.71892, - "map_at_1": 0.21751, - "map_at_3": 0.40739, - "map_at_5": 0.48844, - "map_at_10": 0.56982, - "map_at_50": 0.59645, - "map_at_100": 0.59714, - "map_at_1000": 0.59714, - "recall_at_1": 0.21751, - "recall_at_3": 0.44252, - "recall_at_5": 0.56001, - "recall_at_10": 0.70939, - "recall_at_50": 0.81932, - "recall_at_100": 0.83541, - "recall_at_1000": 0.83541, - "precision_at_1": 0.71598, - "precision_at_3": 0.56903, - "precision_at_5": 0.46213, - "precision_at_10": 0.31243, - "precision_at_50": 0.07266, - "precision_at_100": 0.03683, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.71598, - "mrr_at_3": 0.77811, - "mrr_at_5": 0.78462, - "mrr_at_10": 0.78955, - "mrr_at_50": 0.79132, - "mrr_at_100": 0.7914, - "mrr_at_1000": 0.7914 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.74041, - "ndcg_at_3": 0.66747, - "ndcg_at_5": 0.67448, - "ndcg_at_10": 0.71901, - "ndcg_at_50": 0.76906, - "ndcg_at_100": 0.77039, - "ndcg_at_1000": 0.77039, - "map_at_1": 0.25181, - "map_at_3": 0.45689, - "map_at_5": 0.5414, - "map_at_10": 0.6137, - "map_at_50": 0.64513, - "map_at_100": 0.64541, - "map_at_1000": 0.64541, - "recall_at_1": 0.25181, - "recall_at_3": 0.49876, - "recall_at_5": 0.63435, - "recall_at_10": 0.77503, - "recall_at_50": 0.90903, - "recall_at_100": 0.91452, - "recall_at_1000": 0.91452, - "precision_at_1": 0.74041, - "precision_at_3": 0.56539, - "precision_at_5": 0.46018, - "precision_at_10": 0.30029, - "precision_at_50": 0.0718, - "precision_at_100": 0.03611, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.74041, - "mrr_at_3": 0.80383, - "mrr_at_5": 0.81563, - "mrr_at_10": 0.81843, - "mrr_at_50": 0.81987, - "mrr_at_100": 0.81987, - "mrr_at_1000": 0.81987 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.80707, - "ndcg_at_3": 0.72719, - "ndcg_at_5": 0.71323, - "ndcg_at_10": 0.76777, - "ndcg_at_50": 0.81851, - "ndcg_at_100": 0.82008, - "ndcg_at_1000": 0.82008, - "map_at_1": 0.29458, - "map_at_3": 0.49766, - "map_at_5": 0.57852, - "map_at_10": 0.66319, - "map_at_50": 0.6976, - "map_at_100": 0.69798, - "map_at_1000": 0.69798, - "recall_at_1": 0.29458, - "recall_at_3": 0.534, - "recall_at_5": 0.65171, - "recall_at_10": 0.81854, - "recall_at_50": 0.94302, - "recall_at_100": 0.94898, - "recall_at_1000": 0.94898, - "precision_at_1": 0.80707, - "precision_at_3": 0.59149, - "precision_at_5": 0.46848, - "precision_at_10": 0.31658, - "precision_at_50": 0.07614, - "precision_at_100": 0.03834, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.80707, - "mrr_at_3": 0.86141, - "mrr_at_5": 0.8659, - "mrr_at_10": 0.8704, - "mrr_at_50": 0.87108, - "mrr_at_100": 0.87108, - "mrr_at_1000": 0.87108 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.60417, - "ndcg_at_3": 0.56711, - "ndcg_at_5": 0.58372, - "ndcg_at_10": 0.62149, - "ndcg_at_50": 0.66596, - "ndcg_at_100": 0.67028, - "ndcg_at_1000": 0.67028, - "map_at_1": 0.25719, - "map_at_3": 0.41928, - "map_at_5": 0.48142, - "map_at_10": 0.52777, - "map_at_50": 0.55134, - "map_at_100": 0.55216, - "map_at_1000": 0.55216, - "recall_at_1": 0.25719, - "recall_at_3": 0.46943, - "recall_at_5": 0.5879, - "recall_at_10": 0.68687, - "recall_at_50": 0.81708, - "recall_at_100": 0.83639, - "recall_at_1000": 0.83639, - "precision_at_1": 0.60417, - "precision_at_3": 0.43651, - "precision_at_5": 0.34524, - "precision_at_10": 0.21875, - "precision_at_50": 0.0531, - "precision_at_100": 0.02708, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.60417, - "mrr_at_3": 0.68403, - "mrr_at_5": 0.69846, - "mrr_at_10": 0.70145, - "mrr_at_50": 0.70344, - "mrr_at_100": 0.70354, - "mrr_at_1000": 0.70354 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.69859, - "ndcg_at_3": 0.62663, - "ndcg_at_5": 0.64094, - "ndcg_at_10": 0.68729, - "ndcg_at_50": 0.72841, - "ndcg_at_100": 0.73027, - "ndcg_at_1000": 0.73027, - "map_at_1": 0.33525, - "map_at_3": 0.49804, - "map_at_5": 0.54746, - "map_at_10": 0.58857, - "map_at_50": 0.60942, - "map_at_100": 0.60972, - "map_at_1000": 0.60972, - "recall_at_1": 0.33525, - "recall_at_3": 0.54725, - "recall_at_5": 0.64581, - "recall_at_10": 0.75728, - "recall_at_50": 0.8824, - "recall_at_100": 0.89179, - "recall_at_1000": 0.89179, - "precision_at_1": 0.69859, - "precision_at_3": 0.44695, - "precision_at_5": 0.33127, - "precision_at_10": 0.2062, - "precision_at_50": 0.04868, - "precision_at_100": 0.02454, - "precision_at_1000": 0.00245, - "mrr_at_1": 0.69859, - "mrr_at_3": 0.76667, - "mrr_at_5": 0.77723, - "mrr_at_10": 0.78124, - "mrr_at_50": 0.7834, - "mrr_at_100": 0.78347, - "mrr_at_1000": 0.78347 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64706, - "ndcg_at_3": 0.59468, - "ndcg_at_5": 0.61294, - "ndcg_at_10": 0.66139, - "ndcg_at_50": 0.70527, - "ndcg_at_100": 0.70902, - "ndcg_at_1000": 0.70902, - "map_at_1": 0.31578, - "map_at_3": 0.47161, - "map_at_5": 0.51957, - "map_at_10": 0.56023, - "map_at_50": 0.57981, - "map_at_100": 0.58039, - "map_at_1000": 0.58039, - "recall_at_1": 0.31578, - "recall_at_3": 0.53401, - "recall_at_5": 0.63051, - "recall_at_10": 0.74508, - "recall_at_50": 0.87913, - "recall_at_100": 0.89809, - "recall_at_1000": 0.89809, - "precision_at_1": 0.64706, - "precision_at_3": 0.42204, - "precision_at_5": 0.31597, - "precision_at_10": 0.19804, - "precision_at_50": 0.04801, - "precision_at_100": 0.0244, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.64706, - "mrr_at_3": 0.72736, - "mrr_at_5": 0.7387, - "mrr_at_10": 0.74258, - "mrr_at_50": 0.74622, - "mrr_at_100": 0.74634, - "mrr_at_1000": 0.74634 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.6371, - "ndcg_at_3": 0.60112, - "ndcg_at_5": 0.61122, - "ndcg_at_10": 0.65675, - "ndcg_at_50": 0.69897, - "ndcg_at_100": 0.70136, - "ndcg_at_1000": 0.70136, - "map_at_1": 0.3373, - "map_at_3": 0.48633, - "map_at_5": 0.53031, - "map_at_10": 0.5665, - "map_at_50": 0.58557, - "map_at_100": 0.58594, - "map_at_1000": 0.58594, - "recall_at_1": 0.3373, - "recall_at_3": 0.54131, - "recall_at_5": 0.62151, - "recall_at_10": 0.72461, - "recall_at_50": 0.85634, - "recall_at_100": 0.86718, - "recall_at_1000": 0.86718, - "precision_at_1": 0.6371, - "precision_at_3": 0.41039, - "precision_at_5": 0.30376, - "precision_at_10": 0.18978, - "precision_at_50": 0.04608, - "precision_at_100": 0.02333, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.6371, - "mrr_at_3": 0.71953, - "mrr_at_5": 0.72746, - "mrr_at_10": 0.73275, - "mrr_at_50": 0.7351, - "mrr_at_100": 0.73522, - "mrr_at_1000": 0.73522 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.57923, - "ndcg_at_3": 0.51986, - "ndcg_at_5": 0.5308, - "ndcg_at_10": 0.58327, - "ndcg_at_50": 0.64574, - "ndcg_at_100": 0.65116, - "ndcg_at_1000": 0.65116, - "map_at_1": 0.24711, - "map_at_3": 0.37767, - "map_at_5": 0.42821, - "map_at_10": 0.47704, - "map_at_50": 0.50618, - "map_at_100": 0.50698, - "map_at_1000": 0.50698, - "recall_at_1": 0.24711, - "recall_at_3": 0.42616, - "recall_at_5": 0.52027, - "recall_at_10": 0.65604, - "recall_at_50": 0.84641, - "recall_at_100": 0.8726, - "recall_at_1000": 0.8726, - "precision_at_1": 0.57923, - "precision_at_3": 0.39071, - "precision_at_5": 0.30984, - "precision_at_10": 0.20656, - "precision_at_50": 0.0541, - "precision_at_100": 0.02762, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.57923, - "mrr_at_3": 0.66348, - "mrr_at_5": 0.67386, - "mrr_at_10": 0.68137, - "mrr_at_50": 0.68554, - "mrr_at_100": 0.68572, - "mrr_at_1000": 0.68572 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.54054, - "ndcg_at_3": 0.55798, - "ndcg_at_5": 0.58939, - "ndcg_at_10": 0.64663, - "ndcg_at_50": 0.69616, - "ndcg_at_100": 0.70111, - "ndcg_at_1000": 0.70111, - "map_at_1": 0.29936, - "map_at_3": 0.46074, - "map_at_5": 0.5096, - "map_at_10": 0.5506, - "map_at_50": 0.57146, - "map_at_100": 0.57228, - "map_at_1000": 0.57228, - "recall_at_1": 0.29936, - "recall_at_3": 0.5407, - "recall_at_5": 0.64565, - "recall_at_10": 0.78453, - "recall_at_50": 0.94734, - "recall_at_100": 0.97077, - "recall_at_1000": 0.97077, - "precision_at_1": 0.54054, - "precision_at_3": 0.37658, - "precision_at_5": 0.28486, - "precision_at_10": 0.18216, - "precision_at_50": 0.04486, - "precision_at_100": 0.023, - "precision_at_1000": 0.0023, - "mrr_at_1": 0.54054, - "mrr_at_3": 0.6455, - "mrr_at_5": 0.65766, - "mrr_at_10": 0.6676, - "mrr_at_50": 0.67198, - "mrr_at_100": 0.67215, - "mrr_at_1000": 0.67215 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.47853, - "ndcg_at_3": 0.50986, - "ndcg_at_5": 0.55601, - "ndcg_at_10": 0.60463, - "ndcg_at_50": 0.63817, - "ndcg_at_100": 0.63982, - "ndcg_at_1000": 0.63982, - "map_at_1": 0.30468, - "map_at_3": 0.43132, - "map_at_5": 0.4803, - "map_at_10": 0.5147, - "map_at_50": 0.52664, - "map_at_100": 0.52686, - "map_at_1000": 0.52686, - "recall_at_1": 0.30468, - "recall_at_3": 0.52542, - "recall_at_5": 0.64071, - "recall_at_10": 0.75917, - "recall_at_50": 0.88185, - "recall_at_100": 0.89054, - "recall_at_1000": 0.89054, - "precision_at_1": 0.47853, - "precision_at_3": 0.31288, - "precision_at_5": 0.2454, - "precision_at_10": 0.15245, - "precision_at_50": 0.03497, - "precision_at_100": 0.01764, - "precision_at_1000": 0.00176, - "mrr_at_1": 0.47853, - "mrr_at_3": 0.58078, - "mrr_at_5": 0.59627, - "mrr_at_10": 0.60416, - "mrr_at_50": 0.60849, - "mrr_at_100": 0.60853, - "mrr_at_1000": 0.60853 - }, - "gpt3": { - "ndcg_at_1": 0.42433, - "ndcg_at_3": 0.51013, - "ndcg_at_5": 0.5461, - "ndcg_at_10": 0.58407, - "ndcg_at_50": 0.61999, - "ndcg_at_100": 0.6269, - "ndcg_at_1000": 0.6269, - "map_at_1": 0.33185, - "map_at_3": 0.45837, - "map_at_5": 0.48501, - "map_at_10": 0.50547, - "map_at_50": 0.51612, - "map_at_100": 0.51684, - "map_at_1000": 0.51684, - "recall_at_1": 0.33185, - "recall_at_3": 0.57468, - "recall_at_5": 0.64886, - "recall_at_10": 0.74827, - "recall_at_50": 0.88922, - "recall_at_100": 0.92928, - "recall_at_1000": 0.92928, - "precision_at_1": 0.42433, - "precision_at_3": 0.25618, - "precision_at_5": 0.18338, - "precision_at_10": 0.1095, - "precision_at_50": 0.02623, - "precision_at_100": 0.01362, - "precision_at_1000": 0.00136, - "mrr_at_1": 0.42433, - "mrr_at_3": 0.53907, - "mrr_at_5": 0.55361, - "mrr_at_10": 0.56438, - "mrr_at_50": 0.56986, - "mrr_at_100": 0.57033, - "mrr_at_1000": 0.57033 - }, - "llm-survey": { - "ndcg_at_1": 0.54622, - "ndcg_at_3": 0.50477, - "ndcg_at_5": 0.52696, - "ndcg_at_10": 0.57404, - "ndcg_at_50": 0.61658, - "ndcg_at_100": 0.62221, - "ndcg_at_1000": 0.62221, - "map_at_1": 0.25223, - "map_at_3": 0.39639, - "map_at_5": 0.44031, - "map_at_10": 0.48326, - "map_at_50": 0.50133, - "map_at_100": 0.50209, - "map_at_1000": 0.50209, - "recall_at_1": 0.25223, - "recall_at_3": 0.45045, - "recall_at_5": 0.5432, - "recall_at_10": 0.65927, - "recall_at_50": 0.79969, - "recall_at_100": 0.82866, - "recall_at_1000": 0.82866, - "precision_at_1": 0.54622, - "precision_at_3": 0.36508, - "precision_at_5": 0.27955, - "precision_at_10": 0.17871, - "precision_at_50": 0.04314, - "precision_at_100": 0.0221, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.54622, - "mrr_at_3": 0.62092, - "mrr_at_5": 0.6352, - "mrr_at_10": 0.64212, - "mrr_at_50": 0.64584, - "mrr_at_100": 0.64615, - "mrr_at_1000": 0.64615 - }, - "gemini": { - "ndcg_at_1": 0.44177, - "ndcg_at_3": 0.57463, - "ndcg_at_5": 0.59606, - "ndcg_at_10": 0.61881, - "ndcg_at_50": 0.64507, - "ndcg_at_100": 0.64966, - "ndcg_at_1000": 0.64966, - "map_at_1": 0.44177, - "map_at_3": 0.5415, - "map_at_5": 0.55335, - "map_at_10": 0.56315, - "map_at_50": 0.56945, - "map_at_100": 0.56986, - "map_at_1000": 0.56986, - "recall_at_1": 0.44177, - "recall_at_3": 0.67068, - "recall_at_5": 0.72289, - "recall_at_10": 0.79116, - "recall_at_50": 0.90361, - "recall_at_100": 0.93173, - "recall_at_1000": 0.93173, - "precision_at_1": 0.44177, - "precision_at_3": 0.22356, - "precision_at_5": 0.14458, - "precision_at_10": 0.07912, - "precision_at_50": 0.01807, - "precision_at_100": 0.00932, - "precision_at_1000": 0.00093, - "mrr_at_1": 0.44177, - "mrr_at_3": 0.5415, - "mrr_at_5": 0.55315, - "mrr_at_10": 0.56305, - "mrr_at_50": 0.56939, - "mrr_at_100": 0.56981, - "mrr_at_1000": 0.56981 - } - } - } - } - } - }, - "[e5-mistral-7b-instruct](https://huggingface.co/intfloat/e5-mistral-7b-instruct)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.34306, - "ndcg_at_3": 0.32239, - "ndcg_at_5": 0.3403, - "ndcg_at_10": 0.38155, - "ndcg_at_50": 0.44847, - "ndcg_at_100": 0.46419, - "ndcg_at_1000": 0.46419, - "map_at_1": 0.15941, - "map_at_3": 0.23668, - "map_at_5": 0.26319, - "map_at_10": 0.29056, - "map_at_50": 0.31259, - "map_at_100": 0.31484, - "map_at_1000": 0.31484, - "recall_at_1": 0.15941, - "recall_at_3": 0.29099, - "recall_at_5": 0.36312, - "recall_at_10": 0.46993, - "recall_at_50": 0.6937, - "recall_at_100": 0.7699, - "recall_at_1000": 0.7699, - "precision_at_1": 0.34306, - "precision_at_3": 0.22831, - "precision_at_5": 0.18046, - "precision_at_10": 0.12269, - "precision_at_50": 0.03759, - "precision_at_100": 0.02059, - "precision_at_1000": 0.00206, - "mrr_at_1": 0.34306, - "mrr_at_3": 0.42257, - "mrr_at_5": 0.44363, - "mrr_at_10": 0.4556, - "mrr_at_50": 0.46439, - "mrr_at_100": 0.46509, - "mrr_at_1000": 0.46509 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.3619, - "ndcg_at_3": 0.34944, - "ndcg_at_5": 0.36967, - "ndcg_at_10": 0.40337, - "ndcg_at_50": 0.47129, - "ndcg_at_100": 0.48637, - "ndcg_at_1000": 0.48637, - "map_at_1": 0.19127, - "map_at_3": 0.27243, - "map_at_5": 0.3001, - "map_at_10": 0.32221, - "map_at_50": 0.34415, - "map_at_100": 0.34638, - "map_at_1000": 0.34638, - "recall_at_1": 0.19127, - "recall_at_3": 0.3265, - "recall_at_5": 0.40109, - "recall_at_10": 0.48848, - "recall_at_50": 0.72672, - "recall_at_100": 0.80011, - "recall_at_1000": 0.80011, - "precision_at_1": 0.3619, - "precision_at_3": 0.23162, - "precision_at_5": 0.178, - "precision_at_10": 0.1154, - "precision_at_50": 0.03486, - "precision_at_100": 0.01917, - "precision_at_1000": 0.00192, - "mrr_at_1": 0.36248, - "mrr_at_3": 0.43804, - "mrr_at_5": 0.45512, - "mrr_at_10": 0.46516, - "mrr_at_50": 0.47424, - "mrr_at_100": 0.47488, - "mrr_at_1000": 0.47488 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.32396, - "ndcg_at_3": 0.31295, - "ndcg_at_5": 0.32223, - "ndcg_at_10": 0.35671, - "ndcg_at_50": 0.43408, - "ndcg_at_100": 0.44768, - "ndcg_at_1000": 0.44768, - "map_at_1": 0.13906, - "map_at_3": 0.20804, - "map_at_5": 0.23685, - "map_at_10": 0.26596, - "map_at_50": 0.29441, - "map_at_100": 0.29689, - "map_at_1000": 0.29689, - "recall_at_1": 0.13906, - "recall_at_3": 0.25759, - "recall_at_5": 0.32903, - "recall_at_10": 0.43084, - "recall_at_50": 0.67285, - "recall_at_100": 0.73259, - "recall_at_1000": 0.73259, - "precision_at_1": 0.32396, - "precision_at_3": 0.23316, - "precision_at_5": 0.1891, - "precision_at_10": 0.13409, - "precision_at_50": 0.04384, - "precision_at_100": 0.02388, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.32455, - "mrr_at_3": 0.41066, - "mrr_at_5": 0.42759, - "mrr_at_10": 0.44025, - "mrr_at_50": 0.44909, - "mrr_at_100": 0.44953, - "mrr_at_1000": 0.44953 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.4104, - "ndcg_at_3": 0.36877, - "ndcg_at_5": 0.37409, - "ndcg_at_10": 0.41515, - "ndcg_at_50": 0.52032, - "ndcg_at_100": 0.5482, - "ndcg_at_1000": 0.5482, - "map_at_1": 0.1214, - "map_at_3": 0.22344, - "map_at_5": 0.26896, - "map_at_10": 0.31316, - "map_at_50": 0.35735, - "map_at_100": 0.36212, - "map_at_1000": 0.36212, - "recall_at_1": 0.1214, - "recall_at_3": 0.26754, - "recall_at_5": 0.35865, - "recall_at_10": 0.47996, - "recall_at_50": 0.78547, - "recall_at_100": 0.90958, - "recall_at_1000": 0.90958, - "precision_at_1": 0.4104, - "precision_at_3": 0.31792, - "precision_at_5": 0.26647, - "precision_at_10": 0.18584, - "precision_at_50": 0.06243, - "precision_at_100": 0.0352, - "precision_at_1000": 0.00352, - "mrr_at_1": 0.4104, - "mrr_at_3": 0.47784, - "mrr_at_5": 0.49721, - "mrr_at_10": 0.50926, - "mrr_at_50": 0.51853, - "mrr_at_100": 0.51949, - "mrr_at_1000": 0.51949 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.35135, - "ndcg_at_3": 0.32643, - "ndcg_at_5": 0.33072, - "ndcg_at_10": 0.37197, - "ndcg_at_50": 0.49033, - "ndcg_at_100": 0.52232, - "ndcg_at_1000": 0.52232, - "map_at_1": 0.10481, - "map_at_3": 0.18629, - "map_at_5": 0.22763, - "map_at_10": 0.27378, - "map_at_50": 0.32167, - "map_at_100": 0.3281, - "map_at_1000": 0.3281, - "recall_at_1": 0.10481, - "recall_at_3": 0.22002, - "recall_at_5": 0.30887, - "recall_at_10": 0.43354, - "recall_at_50": 0.76936, - "recall_at_100": 0.89201, - "recall_at_1000": 0.89201, - "precision_at_1": 0.35135, - "precision_at_3": 0.28529, - "precision_at_5": 0.24505, - "precision_at_10": 0.18228, - "precision_at_50": 0.06661, - "precision_at_100": 0.03907, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.35135, - "mrr_at_3": 0.42743, - "mrr_at_5": 0.45145, - "mrr_at_10": 0.46405, - "mrr_at_50": 0.47516, - "mrr_at_100": 0.47564, - "mrr_at_1000": 0.47564 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.4645, - "ndcg_at_3": 0.41384, - "ndcg_at_5": 0.42528, - "ndcg_at_10": 0.46497, - "ndcg_at_50": 0.55586, - "ndcg_at_100": 0.58053, - "ndcg_at_1000": 0.58053, - "map_at_1": 0.13804, - "map_at_3": 0.23645, - "map_at_5": 0.29877, - "map_at_10": 0.35451, - "map_at_50": 0.39656, - "map_at_100": 0.40149, - "map_at_1000": 0.40149, - "recall_at_1": 0.13804, - "recall_at_3": 0.27317, - "recall_at_5": 0.38931, - "recall_at_10": 0.53096, - "recall_at_50": 0.77904, - "recall_at_100": 0.88033, - "recall_at_1000": 0.88033, - "precision_at_1": 0.4645, - "precision_at_3": 0.35602, - "precision_at_5": 0.31598, - "precision_at_10": 0.22396, - "precision_at_50": 0.06846, - "precision_at_100": 0.03831, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.4645, - "mrr_at_3": 0.536, - "mrr_at_5": 0.56129, - "mrr_at_10": 0.57221, - "mrr_at_50": 0.57765, - "mrr_at_100": 0.57821, - "mrr_at_1000": 0.57821 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.48378, - "ndcg_at_3": 0.4245, - "ndcg_at_5": 0.43376, - "ndcg_at_10": 0.48708, - "ndcg_at_50": 0.58996, - "ndcg_at_100": 0.61371, - "ndcg_at_1000": 0.61371, - "map_at_1": 0.15713, - "map_at_3": 0.27135, - "map_at_5": 0.32397, - "map_at_10": 0.37744, - "map_at_50": 0.42163, - "map_at_100": 0.42613, - "map_at_1000": 0.42613, - "recall_at_1": 0.15713, - "recall_at_3": 0.31315, - "recall_at_5": 0.40674, - "recall_at_10": 0.55922, - "recall_at_50": 0.86155, - "recall_at_100": 0.96004, - "recall_at_1000": 0.96004, - "precision_at_1": 0.48378, - "precision_at_3": 0.36087, - "precision_at_5": 0.30147, - "precision_at_10": 0.21209, - "precision_at_50": 0.0669, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.48378, - "mrr_at_3": 0.55998, - "mrr_at_5": 0.57561, - "mrr_at_10": 0.58937, - "mrr_at_50": 0.59553, - "mrr_at_100": 0.59619, - "mrr_at_1000": 0.59619 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.55163, - "ndcg_at_3": 0.50733, - "ndcg_at_5": 0.50894, - "ndcg_at_10": 0.56519, - "ndcg_at_50": 0.66168, - "ndcg_at_100": 0.67944, - "ndcg_at_1000": 0.67944, - "map_at_1": 0.20417, - "map_at_3": 0.33892, - "map_at_5": 0.39922, - "map_at_10": 0.46184, - "map_at_50": 0.50398, - "map_at_100": 0.50813, - "map_at_1000": 0.50813, - "recall_at_1": 0.20417, - "recall_at_3": 0.37455, - "recall_at_5": 0.47419, - "recall_at_10": 0.62934, - "recall_at_50": 0.90723, - "recall_at_100": 0.97468, - "recall_at_1000": 0.97468, - "precision_at_1": 0.55163, - "precision_at_3": 0.41395, - "precision_at_5": 0.34293, - "precision_at_10": 0.24293, - "precision_at_50": 0.07272, - "precision_at_100": 0.0394, - "precision_at_1000": 0.00394, - "mrr_at_1": 0.55163, - "mrr_at_3": 0.63315, - "mrr_at_5": 0.64565, - "mrr_at_10": 0.65762, - "mrr_at_50": 0.66354, - "mrr_at_100": 0.66369, - "mrr_at_1000": 0.66369 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.44643, - "ndcg_at_3": 0.39579, - "ndcg_at_5": 0.40184, - "ndcg_at_10": 0.4451, - "ndcg_at_50": 0.53583, - "ndcg_at_100": 0.55402, - "ndcg_at_1000": 0.55402, - "map_at_1": 0.17746, - "map_at_3": 0.27722, - "map_at_5": 0.31428, - "map_at_10": 0.35247, - "map_at_50": 0.38704, - "map_at_100": 0.39016, - "map_at_1000": 0.39016, - "recall_at_1": 0.17746, - "recall_at_3": 0.32155, - "recall_at_5": 0.39483, - "recall_at_10": 0.51123, - "recall_at_50": 0.80353, - "recall_at_100": 0.88582, - "recall_at_1000": 0.88582, - "precision_at_1": 0.44643, - "precision_at_3": 0.30258, - "precision_at_5": 0.24107, - "precision_at_10": 0.1628, - "precision_at_50": 0.05155, - "precision_at_100": 0.02824, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.44643, - "mrr_at_3": 0.5129, - "mrr_at_5": 0.52867, - "mrr_at_10": 0.53623, - "mrr_at_50": 0.54453, - "mrr_at_100": 0.54513, - "mrr_at_1000": 0.54513 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.44789, - "ndcg_at_3": 0.43012, - "ndcg_at_5": 0.45752, - "ndcg_at_10": 0.51096, - "ndcg_at_50": 0.59225, - "ndcg_at_100": 0.60772, - "ndcg_at_1000": 0.60772, - "map_at_1": 0.21169, - "map_at_3": 0.32577, - "map_at_5": 0.36847, - "map_at_10": 0.40607, - "map_at_50": 0.43744, - "map_at_100": 0.43997, - "map_at_1000": 0.43997, - "recall_at_1": 0.21169, - "recall_at_3": 0.39145, - "recall_at_5": 0.49254, - "recall_at_10": 0.62196, - "recall_at_50": 0.88233, - "recall_at_100": 0.95276, - "recall_at_1000": 0.95276, - "precision_at_1": 0.44789, - "precision_at_3": 0.31174, - "precision_at_5": 0.24394, - "precision_at_10": 0.1631, - "precision_at_50": 0.04823, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.44789, - "mrr_at_3": 0.54742, - "mrr_at_5": 0.56559, - "mrr_at_10": 0.57635, - "mrr_at_50": 0.58402, - "mrr_at_100": 0.58437, - "mrr_at_1000": 0.58437 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.42857, - "ndcg_at_3": 0.40282, - "ndcg_at_5": 0.43205, - "ndcg_at_10": 0.47742, - "ndcg_at_50": 0.56189, - "ndcg_at_100": 0.57869, - "ndcg_at_1000": 0.57869, - "map_at_1": 0.19925, - "map_at_3": 0.30845, - "map_at_5": 0.34831, - "map_at_10": 0.37857, - "map_at_50": 0.4088, - "map_at_100": 0.41155, - "map_at_1000": 0.41155, - "recall_at_1": 0.19925, - "recall_at_3": 0.36814, - "recall_at_5": 0.4652, - "recall_at_10": 0.57247, - "recall_at_50": 0.85621, - "recall_at_100": 0.93127, - "recall_at_1000": 0.93127, - "precision_at_1": 0.42857, - "precision_at_3": 0.29318, - "precision_at_5": 0.23249, - "precision_at_10": 0.1507, - "precision_at_50": 0.04588, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.42857, - "mrr_at_3": 0.52101, - "mrr_at_5": 0.53894, - "mrr_at_10": 0.55049, - "mrr_at_50": 0.55843, - "mrr_at_100": 0.55883, - "mrr_at_1000": 0.55883 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.42473, - "ndcg_at_3": 0.39718, - "ndcg_at_5": 0.41309, - "ndcg_at_10": 0.46159, - "ndcg_at_50": 0.53305, - "ndcg_at_100": 0.55365, - "ndcg_at_1000": 0.55365, - "map_at_1": 0.21324, - "map_at_3": 0.31331, - "map_at_5": 0.34405, - "map_at_10": 0.37401, - "map_at_50": 0.39871, - "map_at_100": 0.40192, - "map_at_1000": 0.40192, - "recall_at_1": 0.21324, - "recall_at_3": 0.35574, - "recall_at_5": 0.43128, - "recall_at_10": 0.54532, - "recall_at_50": 0.77815, - "recall_at_100": 0.87289, - "recall_at_1000": 0.87289, - "precision_at_1": 0.42473, - "precision_at_3": 0.27688, - "precision_at_5": 0.21075, - "precision_at_10": 0.14005, - "precision_at_50": 0.04167, - "precision_at_100": 0.02352, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.42473, - "mrr_at_3": 0.49507, - "mrr_at_5": 0.51241, - "mrr_at_10": 0.52721, - "mrr_at_50": 0.535, - "mrr_at_100": 0.5356, - "mrr_at_1000": 0.5356 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.36066, - "ndcg_at_3": 0.33486, - "ndcg_at_5": 0.35272, - "ndcg_at_10": 0.40404, - "ndcg_at_50": 0.49099, - "ndcg_at_100": 0.52467, - "ndcg_at_1000": 0.52467, - "map_at_1": 0.1307, - "map_at_3": 0.22643, - "map_at_5": 0.26724, - "map_at_10": 0.30608, - "map_at_50": 0.33858, - "map_at_100": 0.34387, - "map_at_1000": 0.34387, - "recall_at_1": 0.1307, - "recall_at_3": 0.27742, - "recall_at_5": 0.3693, - "recall_at_10": 0.49528, - "recall_at_50": 0.76877, - "recall_at_100": 0.9257, - "recall_at_1000": 0.9257, - "precision_at_1": 0.36066, - "precision_at_3": 0.26958, - "precision_at_5": 0.22186, - "precision_at_10": 0.15683, - "precision_at_50": 0.04951, - "precision_at_100": 0.02902, - "precision_at_1000": 0.0029, - "mrr_at_1": 0.36066, - "mrr_at_3": 0.44399, - "mrr_at_5": 0.46243, - "mrr_at_10": 0.47515, - "mrr_at_50": 0.48457, - "mrr_at_100": 0.48564, - "mrr_at_1000": 0.48564 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.35405, - "ndcg_at_3": 0.36723, - "ndcg_at_5": 0.39429, - "ndcg_at_10": 0.44314, - "ndcg_at_50": 0.52793, - "ndcg_at_100": 0.55198, - "ndcg_at_1000": 0.55198, - "map_at_1": 0.18764, - "map_at_3": 0.29, - "map_at_5": 0.32555, - "map_at_10": 0.35721, - "map_at_50": 0.38432, - "map_at_100": 0.38793, - "map_at_1000": 0.38793, - "recall_at_1": 0.18764, - "recall_at_3": 0.35606, - "recall_at_5": 0.43876, - "recall_at_10": 0.55621, - "recall_at_50": 0.86371, - "recall_at_100": 0.98063, - "recall_at_1000": 0.98063, - "precision_at_1": 0.35405, - "precision_at_3": 0.25045, - "precision_at_5": 0.1973, - "precision_at_10": 0.13108, - "precision_at_50": 0.04092, - "precision_at_100": 0.02324, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.35405, - "mrr_at_3": 0.44865, - "mrr_at_5": 0.46297, - "mrr_at_10": 0.475, - "mrr_at_50": 0.48444, - "mrr_at_100": 0.4853, - "mrr_at_1000": 0.4853 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.21472, - "ndcg_at_3": 0.2393, - "ndcg_at_5": 0.26721, - "ndcg_at_10": 0.32621, - "ndcg_at_50": 0.42196, - "ndcg_at_100": 0.44543, - "ndcg_at_1000": 0.44543, - "map_at_1": 0.12858, - "map_at_3": 0.19147, - "map_at_5": 0.21716, - "map_at_10": 0.24744, - "map_at_50": 0.27542, - "map_at_100": 0.27837, - "map_at_1000": 0.27837, - "recall_at_1": 0.12858, - "recall_at_3": 0.24587, - "recall_at_5": 0.31586, - "recall_at_10": 0.47044, - "recall_at_50": 0.83141, - "recall_at_100": 0.95706, - "recall_at_1000": 0.95706, - "precision_at_1": 0.21472, - "precision_at_3": 0.1544, - "precision_at_5": 0.12822, - "precision_at_10": 0.09601, - "precision_at_50": 0.03325, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.21472, - "mrr_at_3": 0.28783, - "mrr_at_5": 0.30455, - "mrr_at_10": 0.32425, - "mrr_at_50": 0.33852, - "mrr_at_100": 0.33984, - "mrr_at_1000": 0.33984 - }, - "gpt3": { - "ndcg_at_1": 0.21068, - "ndcg_at_3": 0.27574, - "ndcg_at_5": 0.31435, - "ndcg_at_10": 0.36285, - "ndcg_at_50": 0.44312, - "ndcg_at_100": 0.46062, - "ndcg_at_1000": 0.46062, - "map_at_1": 0.16098, - "map_at_3": 0.24007, - "map_at_5": 0.2632, - "map_at_10": 0.28551, - "map_at_50": 0.3057, - "map_at_100": 0.30763, - "map_at_1000": 0.30763, - "recall_at_1": 0.16098, - "recall_at_3": 0.32097, - "recall_at_5": 0.409, - "recall_at_10": 0.54352, - "recall_at_50": 0.87463, - "recall_at_100": 0.97354, - "recall_at_1000": 0.97354, - "precision_at_1": 0.21068, - "precision_at_3": 0.14738, - "precision_at_5": 0.11335, - "precision_at_10": 0.07834, - "precision_at_50": 0.02576, - "precision_at_100": 0.0143, - "precision_at_1000": 0.00143, - "mrr_at_1": 0.21068, - "mrr_at_3": 0.29525, - "mrr_at_5": 0.31721, - "mrr_at_10": 0.33533, - "mrr_at_50": 0.34803, - "mrr_at_100": 0.34897, - "mrr_at_1000": 0.34897 - }, - "llm-survey": { - "ndcg_at_1": 0.26611, - "ndcg_at_3": 0.25788, - "ndcg_at_5": 0.28026, - "ndcg_at_10": 0.33547, - "ndcg_at_50": 0.42803, - "ndcg_at_100": 0.45995, - "ndcg_at_1000": 0.45995, - "map_at_1": 0.12848, - "map_at_3": 0.19725, - "map_at_5": 0.22435, - "map_at_10": 0.25653, - "map_at_50": 0.28472, - "map_at_100": 0.28945, - "map_at_1000": 0.28945, - "recall_at_1": 0.12848, - "recall_at_3": 0.23667, - "recall_at_5": 0.30601, - "recall_at_10": 0.44447, - "recall_at_50": 0.7604, - "recall_at_100": 0.91496, - "recall_at_1000": 0.91496, - "precision_at_1": 0.26611, - "precision_at_3": 0.18394, - "precision_at_5": 0.1507, - "precision_at_10": 0.11429, - "precision_at_50": 0.04045, - "precision_at_100": 0.02389, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.26611, - "mrr_at_3": 0.32446, - "mrr_at_5": 0.33945, - "mrr_at_10": 0.36056, - "mrr_at_50": 0.37438, - "mrr_at_100": 0.37558, - "mrr_at_1000": 0.37558 - }, - "gemini": { - "ndcg_at_1": 0.16867, - "ndcg_at_3": 0.27577, - "ndcg_at_5": 0.3302, - "ndcg_at_10": 0.36796, - "ndcg_at_50": 0.42928, - "ndcg_at_100": 0.44456, - "ndcg_at_1000": 0.44456, - "map_at_1": 0.16867, - "map_at_3": 0.249, - "map_at_5": 0.27912, - "map_at_10": 0.29476, - "map_at_50": 0.30797, - "map_at_100": 0.30941, - "map_at_1000": 0.30941, - "recall_at_1": 0.16867, - "recall_at_3": 0.35341, - "recall_at_5": 0.48594, - "recall_at_10": 0.60241, - "recall_at_50": 0.87952, - "recall_at_100": 0.97189, - "recall_at_1000": 0.97189, - "precision_at_1": 0.16867, - "precision_at_3": 0.1178, - "precision_at_5": 0.09719, - "precision_at_10": 0.06024, - "precision_at_50": 0.01759, - "precision_at_100": 0.00972, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.16867, - "mrr_at_3": 0.24967, - "mrr_at_5": 0.27979, - "mrr_at_10": 0.29543, - "mrr_at_50": 0.30864, - "mrr_at_100": 0.31008, - "mrr_at_1000": 0.31008 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.7707, - "ndcg_at_3": 0.6734, - "ndcg_at_5": 0.67627, - "ndcg_at_10": 0.69668, - "ndcg_at_50": 0.71435, - "ndcg_at_100": 0.71472, - "ndcg_at_1000": 0.71472, - "map_at_1": 0.39944, - "map_at_3": 0.54435, - "map_at_5": 0.58638, - "map_at_10": 0.61275, - "map_at_50": 0.62192, - "map_at_100": 0.62199, - "map_at_1000": 0.62199, - "recall_at_1": 0.39944, - "recall_at_3": 0.58431, - "recall_at_5": 0.65754, - "recall_at_10": 0.71897, - "recall_at_50": 0.76843, - "recall_at_100": 0.7699, - "recall_at_1000": 0.7699, - "precision_at_1": 0.7707, - "precision_at_3": 0.44511, - "precision_at_5": 0.32162, - "precision_at_10": 0.1863, - "precision_at_50": 0.04106, - "precision_at_100": 0.02059, - "precision_at_1000": 0.00206, - "mrr_at_1": 0.77129, - "mrr_at_3": 0.82023, - "mrr_at_5": 0.82592, - "mrr_at_10": 0.82718, - "mrr_at_50": 0.82804, - "mrr_at_100": 0.82805, - "mrr_at_1000": 0.82805 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.73943, - "ndcg_at_3": 0.68624, - "ndcg_at_5": 0.6935, - "ndcg_at_10": 0.71481, - "ndcg_at_50": 0.72987, - "ndcg_at_100": 0.731, - "ndcg_at_1000": 0.731, - "map_at_1": 0.43164, - "map_at_3": 0.58542, - "map_at_5": 0.62291, - "map_at_10": 0.64778, - "map_at_50": 0.65516, - "map_at_100": 0.65534, - "map_at_1000": 0.65534, - "recall_at_1": 0.43164, - "recall_at_3": 0.6268, - "recall_at_5": 0.69098, - "recall_at_10": 0.74976, - "recall_at_50": 0.79485, - "recall_at_100": 0.80011, - "recall_at_1000": 0.80011, - "precision_at_1": 0.73943, - "precision_at_3": 0.43023, - "precision_at_5": 0.304, - "precision_at_10": 0.17539, - "precision_at_50": 0.03807, - "precision_at_100": 0.01917, - "precision_at_1000": 0.00192, - "mrr_at_1": 0.73943, - "mrr_at_3": 0.78846, - "mrr_at_5": 0.7937, - "mrr_at_10": 0.79604, - "mrr_at_50": 0.79733, - "mrr_at_100": 0.79738, - "mrr_at_1000": 0.79738 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.6075, - "ndcg_at_3": 0.57192, - "ndcg_at_5": 0.57284, - "ndcg_at_10": 0.5955, - "ndcg_at_50": 0.62667, - "ndcg_at_100": 0.62894, - "ndcg_at_1000": 0.62894, - "map_at_1": 0.29279, - "map_at_3": 0.42041, - "map_at_5": 0.46723, - "map_at_10": 0.50471, - "map_at_50": 0.52291, - "map_at_100": 0.52332, - "map_at_1000": 0.52332, - "recall_at_1": 0.29279, - "recall_at_3": 0.47268, - "recall_at_5": 0.55572, - "recall_at_10": 0.64211, - "recall_at_50": 0.72249, - "recall_at_100": 0.73259, - "recall_at_1000": 0.73259, - "precision_at_1": 0.6075, - "precision_at_3": 0.40344, - "precision_at_5": 0.31283, - "precision_at_10": 0.19731, - "precision_at_50": 0.04712, - "precision_at_100": 0.02388, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.6075, - "mrr_at_3": 0.68492, - "mrr_at_5": 0.69456, - "mrr_at_10": 0.69919, - "mrr_at_50": 0.7007, - "mrr_at_100": 0.70078, - "mrr_at_1000": 0.70078 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.71098, - "ndcg_at_3": 0.64895, - "ndcg_at_5": 0.64447, - "ndcg_at_10": 0.69513, - "ndcg_at_50": 0.74608, - "ndcg_at_100": 0.74824, - "ndcg_at_1000": 0.74824, - "map_at_1": 0.23272, - "map_at_3": 0.43674, - "map_at_5": 0.51346, - "map_at_10": 0.58652, - "map_at_50": 0.61614, - "map_at_100": 0.61649, - "map_at_1000": 0.61649, - "recall_at_1": 0.23272, - "recall_at_3": 0.48489, - "recall_at_5": 0.60293, - "recall_at_10": 0.76166, - "recall_at_50": 0.89929, - "recall_at_100": 0.90958, - "recall_at_1000": 0.90958, - "precision_at_1": 0.71098, - "precision_at_3": 0.54721, - "precision_at_5": 0.43584, - "precision_at_10": 0.28844, - "precision_at_50": 0.06988, - "precision_at_100": 0.0352, - "precision_at_1000": 0.00352, - "mrr_at_1": 0.71098, - "mrr_at_3": 0.78324, - "mrr_at_5": 0.79191, - "mrr_at_10": 0.79713, - "mrr_at_50": 0.79865, - "mrr_at_100": 0.79873, - "mrr_at_1000": 0.79873 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.71772, - "ndcg_at_3": 0.63291, - "ndcg_at_5": 0.62569, - "ndcg_at_10": 0.67452, - "ndcg_at_50": 0.73103, - "ndcg_at_100": 0.73366, - "ndcg_at_1000": 0.73366, - "map_at_1": 0.2099, - "map_at_3": 0.38668, - "map_at_5": 0.47378, - "map_at_10": 0.56224, - "map_at_50": 0.59627, - "map_at_100": 0.59685, - "map_at_1000": 0.59685, - "recall_at_1": 0.2099, - "recall_at_3": 0.42747, - "recall_at_5": 0.55547, - "recall_at_10": 0.72846, - "recall_at_50": 0.88087, - "recall_at_100": 0.89201, - "recall_at_1000": 0.89201, - "precision_at_1": 0.71772, - "precision_at_3": 0.54855, - "precision_at_5": 0.45826, - "precision_at_10": 0.31802, - "precision_at_50": 0.07736, - "precision_at_100": 0.03907, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.71772, - "mrr_at_3": 0.77978, - "mrr_at_5": 0.78669, - "mrr_at_10": 0.79163, - "mrr_at_50": 0.79389, - "mrr_at_100": 0.79392, - "mrr_at_1000": 0.79392 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71302, - "ndcg_at_3": 0.66133, - "ndcg_at_5": 0.64823, - "ndcg_at_10": 0.68916, - "ndcg_at_50": 0.74098, - "ndcg_at_100": 0.74283, - "ndcg_at_1000": 0.74283, - "map_at_1": 0.22242, - "map_at_3": 0.42074, - "map_at_5": 0.50158, - "map_at_10": 0.58764, - "map_at_50": 0.62, - "map_at_100": 0.62035, - "map_at_1000": 0.62035, - "recall_at_1": 0.22242, - "recall_at_3": 0.45825, - "recall_at_5": 0.57508, - "recall_at_10": 0.73483, - "recall_at_50": 0.87123, - "recall_at_100": 0.88033, - "recall_at_1000": 0.88033, - "precision_at_1": 0.71302, - "precision_at_3": 0.56607, - "precision_at_5": 0.46213, - "precision_at_10": 0.31775, - "precision_at_50": 0.07609, - "precision_at_100": 0.03831, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.71302, - "mrr_at_3": 0.77909, - "mrr_at_5": 0.78545, - "mrr_at_10": 0.78949, - "mrr_at_50": 0.79238, - "mrr_at_100": 0.79244, - "mrr_at_1000": 0.79244 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.76401, - "ndcg_at_3": 0.70112, - "ndcg_at_5": 0.70712, - "ndcg_at_10": 0.75798, - "ndcg_at_50": 0.80589, - "ndcg_at_100": 0.80993, - "ndcg_at_1000": 0.80993, - "map_at_1": 0.26958, - "map_at_3": 0.49775, - "map_at_5": 0.58521, - "map_at_10": 0.66164, - "map_at_50": 0.69129, - "map_at_100": 0.69204, - "map_at_1000": 0.69204, - "recall_at_1": 0.26958, - "recall_at_3": 0.53204, - "recall_at_5": 0.66146, - "recall_at_10": 0.81407, - "recall_at_50": 0.94221, - "recall_at_100": 0.96004, - "recall_at_1000": 0.96004, - "precision_at_1": 0.76401, - "precision_at_3": 0.588, - "precision_at_5": 0.47316, - "precision_at_10": 0.31003, - "precision_at_50": 0.07333, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.76401, - "mrr_at_3": 0.82694, - "mrr_at_5": 0.83461, - "mrr_at_10": 0.83878, - "mrr_at_50": 0.84017, - "mrr_at_100": 0.84033, - "mrr_at_1000": 0.84033 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.83967, - "ndcg_at_3": 0.75928, - "ndcg_at_5": 0.75333, - "ndcg_at_10": 0.80039, - "ndcg_at_50": 0.84855, - "ndcg_at_100": 0.85091, - "ndcg_at_1000": 0.85091, - "map_at_1": 0.31011, - "map_at_3": 0.52615, - "map_at_5": 0.61913, - "map_at_10": 0.70043, - "map_at_50": 0.73298, - "map_at_100": 0.73363, - "map_at_1000": 0.73363, - "recall_at_1": 0.31011, - "recall_at_3": 0.56124, - "recall_at_5": 0.69599, - "recall_at_10": 0.84615, - "recall_at_50": 0.96625, - "recall_at_100": 0.97468, - "recall_at_1000": 0.97468, - "precision_at_1": 0.83967, - "precision_at_3": 0.61775, - "precision_at_5": 0.49728, - "precision_at_10": 0.32826, - "precision_at_50": 0.07793, - "precision_at_100": 0.0394, - "precision_at_1000": 0.00394, - "mrr_at_1": 0.83967, - "mrr_at_3": 0.89357, - "mrr_at_5": 0.89724, - "mrr_at_10": 0.89934, - "mrr_at_50": 0.89982, - "mrr_at_100": 0.89982, - "mrr_at_1000": 0.89982 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.64881, - "ndcg_at_3": 0.61008, - "ndcg_at_5": 0.61718, - "ndcg_at_10": 0.65161, - "ndcg_at_50": 0.70348, - "ndcg_at_100": 0.70851, - "ndcg_at_1000": 0.70851, - "map_at_1": 0.27183, - "map_at_3": 0.45716, - "map_at_5": 0.52, - "map_at_10": 0.56298, - "map_at_50": 0.58961, - "map_at_100": 0.59052, - "map_at_1000": 0.59052, - "recall_at_1": 0.27183, - "recall_at_3": 0.51424, - "recall_at_5": 0.61621, - "recall_at_10": 0.71101, - "recall_at_50": 0.86282, - "recall_at_100": 0.88582, - "recall_at_1000": 0.88582, - "precision_at_1": 0.64881, - "precision_at_3": 0.4623, - "precision_at_5": 0.35714, - "precision_at_10": 0.22173, - "precision_at_50": 0.05518, - "precision_at_100": 0.02824, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.64881, - "mrr_at_3": 0.72669, - "mrr_at_5": 0.73279, - "mrr_at_10": 0.73548, - "mrr_at_50": 0.73851, - "mrr_at_100": 0.73871, - "mrr_at_1000": 0.73871 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.67042, - "ndcg_at_3": 0.654, - "ndcg_at_5": 0.67559, - "ndcg_at_10": 0.72963, - "ndcg_at_50": 0.76895, - "ndcg_at_100": 0.77071, - "ndcg_at_1000": 0.77071, - "map_at_1": 0.33114, - "map_at_3": 0.52676, - "map_at_5": 0.58121, - "map_at_10": 0.62876, - "map_at_50": 0.64958, - "map_at_100": 0.64985, - "map_at_1000": 0.64985, - "recall_at_1": 0.33114, - "recall_at_3": 0.60487, - "recall_at_5": 0.70608, - "recall_at_10": 0.82941, - "recall_at_50": 0.9445, - "recall_at_100": 0.95276, - "recall_at_1000": 0.95276, - "precision_at_1": 0.67042, - "precision_at_3": 0.46761, - "precision_at_5": 0.34986, - "precision_at_10": 0.22028, - "precision_at_50": 0.05183, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.67042, - "mrr_at_3": 0.77324, - "mrr_at_5": 0.78282, - "mrr_at_10": 0.78649, - "mrr_at_50": 0.78767, - "mrr_at_100": 0.78775, - "mrr_at_1000": 0.78775 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64986, - "ndcg_at_3": 0.61057, - "ndcg_at_5": 0.63892, - "ndcg_at_10": 0.68488, - "ndcg_at_50": 0.73078, - "ndcg_at_100": 0.73411, - "ndcg_at_1000": 0.73411, - "map_at_1": 0.31946, - "map_at_3": 0.48973, - "map_at_5": 0.54431, - "map_at_10": 0.58481, - "map_at_50": 0.60592, - "map_at_100": 0.60648, - "map_at_1000": 0.60648, - "recall_at_1": 0.31946, - "recall_at_3": 0.5599, - "recall_at_5": 0.66843, - "recall_at_10": 0.77663, - "recall_at_50": 0.91516, - "recall_at_100": 0.93127, - "recall_at_1000": 0.93127, - "precision_at_1": 0.64986, - "precision_at_3": 0.43231, - "precision_at_5": 0.32941, - "precision_at_10": 0.20224, - "precision_at_50": 0.04964, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.64986, - "mrr_at_3": 0.7423, - "mrr_at_5": 0.75336, - "mrr_at_10": 0.75837, - "mrr_at_50": 0.76056, - "mrr_at_100": 0.76073, - "mrr_at_1000": 0.76073 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.68817, - "ndcg_at_3": 0.64782, - "ndcg_at_5": 0.65771, - "ndcg_at_10": 0.69722, - "ndcg_at_50": 0.73075, - "ndcg_at_100": 0.73387, - "ndcg_at_1000": 0.73387, - "map_at_1": 0.35901, - "map_at_3": 0.52906, - "map_at_5": 0.57329, - "map_at_10": 0.60612, - "map_at_50": 0.62271, - "map_at_100": 0.62318, - "map_at_1000": 0.62318, - "recall_at_1": 0.35901, - "recall_at_3": 0.58748, - "recall_at_5": 0.66967, - "recall_at_10": 0.76137, - "recall_at_50": 0.85806, - "recall_at_100": 0.87289, - "recall_at_1000": 0.87289, - "precision_at_1": 0.68817, - "precision_at_3": 0.44713, - "precision_at_5": 0.32742, - "precision_at_10": 0.19785, - "precision_at_50": 0.04629, - "precision_at_100": 0.02352, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.68817, - "mrr_at_3": 0.77061, - "mrr_at_5": 0.77679, - "mrr_at_10": 0.78161, - "mrr_at_50": 0.78302, - "mrr_at_100": 0.78315, - "mrr_at_1000": 0.78315 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.5847, - "ndcg_at_3": 0.54938, - "ndcg_at_5": 0.56652, - "ndcg_at_10": 0.62059, - "ndcg_at_50": 0.68284, - "ndcg_at_100": 0.68948, - "ndcg_at_1000": 0.68948, - "map_at_1": 0.2487, - "map_at_3": 0.40752, - "map_at_5": 0.46485, - "map_at_10": 0.51725, - "map_at_50": 0.54638, - "map_at_100": 0.54756, - "map_at_1000": 0.54756, - "recall_at_1": 0.2487, - "recall_at_3": 0.46631, - "recall_at_5": 0.57195, - "recall_at_10": 0.70536, - "recall_at_50": 0.89534, - "recall_at_100": 0.9257, - "recall_at_1000": 0.9257, - "precision_at_1": 0.5847, - "precision_at_3": 0.42259, - "precision_at_5": 0.33279, - "precision_at_10": 0.22049, - "precision_at_50": 0.05639, - "precision_at_100": 0.02902, - "precision_at_1000": 0.0029, - "mrr_at_1": 0.5847, - "mrr_at_3": 0.68033, - "mrr_at_5": 0.69208, - "mrr_at_10": 0.69758, - "mrr_at_50": 0.70213, - "mrr_at_100": 0.70233, - "mrr_at_1000": 0.70233 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.58378, - "ndcg_at_3": 0.58764, - "ndcg_at_5": 0.63232, - "ndcg_at_10": 0.69041, - "ndcg_at_50": 0.73104, - "ndcg_at_100": 0.73484, - "ndcg_at_1000": 0.73484, - "map_at_1": 0.32965, - "map_at_3": 0.49012, - "map_at_5": 0.5495, - "map_at_10": 0.59543, - "map_at_50": 0.61358, - "map_at_100": 0.61414, - "map_at_1000": 0.61414, - "recall_at_1": 0.32965, - "recall_at_3": 0.56541, - "recall_at_5": 0.69389, - "recall_at_10": 0.82972, - "recall_at_50": 0.96257, - "recall_at_100": 0.98063, - "recall_at_1000": 0.98063, - "precision_at_1": 0.58378, - "precision_at_3": 0.39099, - "precision_at_5": 0.30595, - "precision_at_10": 0.19459, - "precision_at_50": 0.04551, - "precision_at_100": 0.02324, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.58378, - "mrr_at_3": 0.68243, - "mrr_at_5": 0.69689, - "mrr_at_10": 0.70474, - "mrr_at_50": 0.70837, - "mrr_at_100": 0.70848, - "mrr_at_1000": 0.70848 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.46626, - "ndcg_at_3": 0.53762, - "ndcg_at_5": 0.57828, - "ndcg_at_10": 0.63415, - "ndcg_at_50": 0.66932, - "ndcg_at_100": 0.67503, - "ndcg_at_1000": 0.67503, - "map_at_1": 0.31307, - "map_at_3": 0.45743, - "map_at_5": 0.50039, - "map_at_10": 0.53955, - "map_at_50": 0.55288, - "map_at_100": 0.55359, - "map_at_1000": 0.55359, - "recall_at_1": 0.31307, - "recall_at_3": 0.5688, - "recall_at_5": 0.66906, - "recall_at_10": 0.80271, - "recall_at_50": 0.92612, - "recall_at_100": 0.95706, - "recall_at_1000": 0.95706, - "precision_at_1": 0.46626, - "precision_at_3": 0.32618, - "precision_at_5": 0.24663, - "precision_at_10": 0.15706, - "precision_at_50": 0.0365, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.46626, - "mrr_at_3": 0.60072, - "mrr_at_5": 0.61452, - "mrr_at_10": 0.62368, - "mrr_at_50": 0.62732, - "mrr_at_100": 0.62766, - "mrr_at_1000": 0.62766 - }, - "gpt3": { - "ndcg_at_1": 0.41246, - "ndcg_at_3": 0.49945, - "ndcg_at_5": 0.5486, - "ndcg_at_10": 0.58931, - "ndcg_at_50": 0.63201, - "ndcg_at_100": 0.63767, - "ndcg_at_1000": 0.63767, - "map_at_1": 0.32938, - "map_at_3": 0.45026, - "map_at_5": 0.48287, - "map_at_10": 0.50567, - "map_at_50": 0.51886, - "map_at_100": 0.51952, - "map_at_1000": 0.51952, - "recall_at_1": 0.32938, - "recall_at_3": 0.56108, - "recall_at_5": 0.67038, - "recall_at_10": 0.77596, - "recall_at_50": 0.94164, - "recall_at_100": 0.97354, - "recall_at_1000": 0.97354, - "precision_at_1": 0.41246, - "precision_at_3": 0.25519, - "precision_at_5": 0.18872, - "precision_at_10": 0.11276, - "precision_at_50": 0.02772, - "precision_at_100": 0.0143, - "precision_at_1000": 0.00143, - "mrr_at_1": 0.41246, - "mrr_at_3": 0.52077, - "mrr_at_5": 0.54659, - "mrr_at_10": 0.55746, - "mrr_at_50": 0.56344, - "mrr_at_100": 0.5638, - "mrr_at_1000": 0.5638 - }, - "llm-survey": { - "ndcg_at_1": 0.51541, - "ndcg_at_3": 0.50774, - "ndcg_at_5": 0.54867, - "ndcg_at_10": 0.58801, - "ndcg_at_50": 0.64552, - "ndcg_at_100": 0.65184, - "ndcg_at_1000": 0.65184, - "map_at_1": 0.25433, - "map_at_3": 0.39902, - "map_at_5": 0.4577, - "map_at_10": 0.4933, - "map_at_50": 0.51733, - "map_at_100": 0.5181, - "map_at_1000": 0.5181, - "recall_at_1": 0.25433, - "recall_at_3": 0.46768, - "recall_at_5": 0.5931, - "recall_at_10": 0.69147, - "recall_at_50": 0.8806, - "recall_at_100": 0.91496, - "recall_at_1000": 0.91496, - "precision_at_1": 0.51541, - "precision_at_3": 0.36508, - "precision_at_5": 0.29412, - "precision_at_10": 0.18291, - "precision_at_50": 0.04661, - "precision_at_100": 0.02389, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.51541, - "mrr_at_3": 0.60738, - "mrr_at_5": 0.626, - "mrr_at_10": 0.63256, - "mrr_at_50": 0.63806, - "mrr_at_100": 0.63846, - "mrr_at_1000": 0.63846 - }, - "gemini": { - "ndcg_at_1": 0.45382, - "ndcg_at_3": 0.60609, - "ndcg_at_5": 0.6225, - "ndcg_at_10": 0.65328, - "ndcg_at_50": 0.67558, - "ndcg_at_100": 0.68093, - "ndcg_at_1000": 0.68093, - "map_at_1": 0.45382, - "map_at_3": 0.57095, - "map_at_5": 0.57999, - "map_at_10": 0.59245, - "map_at_50": 0.5977, - "map_at_100": 0.59821, - "map_at_1000": 0.59821, - "recall_at_1": 0.45382, - "recall_at_3": 0.70683, - "recall_at_5": 0.74699, - "recall_at_10": 0.84337, - "recall_at_50": 0.93976, - "recall_at_100": 0.97189, - "recall_at_1000": 0.97189, - "precision_at_1": 0.45382, - "precision_at_3": 0.23561, - "precision_at_5": 0.1494, - "precision_at_10": 0.08434, - "precision_at_50": 0.0188, - "precision_at_100": 0.00972, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.45382, - "mrr_at_3": 0.57095, - "mrr_at_5": 0.57999, - "mrr_at_10": 0.59245, - "mrr_at_50": 0.59769, - "mrr_at_100": 0.59821, - "mrr_at_1000": 0.59821 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.72662, - "ndcg_at_3": 0.63004, - "ndcg_at_5": 0.63714, - "ndcg_at_10": 0.66621, - "ndcg_at_50": 0.68855, - "ndcg_at_100": 0.68946, - "ndcg_at_1000": 0.68946, - "map_at_1": 0.37877, - "map_at_3": 0.50355, - "map_at_5": 0.54346, - "map_at_10": 0.57431, - "map_at_50": 0.5862, - "map_at_100": 0.58637, - "map_at_1000": 0.58637, - "recall_at_1": 0.37877, - "recall_at_3": 0.54939, - "recall_at_5": 0.6253, - "recall_at_10": 0.70419, - "recall_at_50": 0.76605, - "recall_at_100": 0.7699, - "recall_at_1000": 0.7699, - "precision_at_1": 0.72662, - "precision_at_3": 0.41076, - "precision_at_5": 0.3003, - "precision_at_10": 0.18064, - "precision_at_50": 0.04094, - "precision_at_100": 0.02059, - "precision_at_1000": 0.00206, - "mrr_at_1": 0.72662, - "mrr_at_3": 0.7844, - "mrr_at_5": 0.79199, - "mrr_at_10": 0.79474, - "mrr_at_50": 0.79556, - "mrr_at_100": 0.79559, - "mrr_at_1000": 0.79559 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.63231, - "ndcg_at_3": 0.60322, - "ndcg_at_5": 0.61677, - "ndcg_at_10": 0.64454, - "ndcg_at_50": 0.67233, - "ndcg_at_100": 0.67414, - "ndcg_at_1000": 0.67414, - "map_at_1": 0.36974, - "map_at_3": 0.50365, - "map_at_5": 0.53828, - "map_at_10": 0.56429, - "map_at_50": 0.57733, - "map_at_100": 0.57761, - "map_at_1000": 0.57761, - "recall_at_1": 0.36974, - "recall_at_3": 0.56351, - "recall_at_5": 0.63367, - "recall_at_10": 0.7066, - "recall_at_50": 0.7919, - "recall_at_100": 0.80011, - "recall_at_1000": 0.80011, - "precision_at_1": 0.63231, - "precision_at_3": 0.37695, - "precision_at_5": 0.27192, - "precision_at_10": 0.1623, - "precision_at_50": 0.03787, - "precision_at_100": 0.01917, - "precision_at_1000": 0.00192, - "mrr_at_1": 0.63231, - "mrr_at_3": 0.70768, - "mrr_at_5": 0.71683, - "mrr_at_10": 0.72146, - "mrr_at_50": 0.7231, - "mrr_at_100": 0.72317, - "mrr_at_1000": 0.72317 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.49317, - "ndcg_at_3": 0.46538, - "ndcg_at_5": 0.47051, - "ndcg_at_10": 0.51076, - "ndcg_at_50": 0.56411, - "ndcg_at_100": 0.56758, - "ndcg_at_1000": 0.56758, - "map_at_1": 0.19753, - "map_at_3": 0.30921, - "map_at_5": 0.35332, - "map_at_10": 0.40312, - "map_at_50": 0.43123, - "map_at_100": 0.43191, - "map_at_1000": 0.43191, - "recall_at_1": 0.19753, - "recall_at_3": 0.36361, - "recall_at_5": 0.45262, - "recall_at_10": 0.57817, - "recall_at_50": 0.71972, - "recall_at_100": 0.73342, - "recall_at_1000": 0.73342, - "precision_at_1": 0.49317, - "precision_at_3": 0.36403, - "precision_at_5": 0.29424, - "precision_at_10": 0.20671, - "precision_at_50": 0.05503, - "precision_at_100": 0.02807, - "precision_at_1000": 0.00281, - "mrr_at_1": 0.49317, - "mrr_at_3": 0.58665, - "mrr_at_5": 0.60317, - "mrr_at_10": 0.61112, - "mrr_at_50": 0.61396, - "mrr_at_100": 0.61403, - "mrr_at_1000": 0.61403 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.39133, - "ndcg_at_3": 0.38276, - "ndcg_at_5": 0.39817, - "ndcg_at_10": 0.43263, - "ndcg_at_50": 0.49639, - "ndcg_at_100": 0.50445, - "ndcg_at_1000": 0.50445, - "map_at_1": 0.19175, - "map_at_3": 0.27098, - "map_at_5": 0.30432, - "map_at_10": 0.33659, - "map_at_50": 0.36326, - "map_at_100": 0.36483, - "map_at_1000": 0.36483, - "recall_at_1": 0.19175, - "recall_at_3": 0.33034, - "recall_at_5": 0.41321, - "recall_at_10": 0.51614, - "recall_at_50": 0.7, - "recall_at_100": 0.73259, - "recall_at_1000": 0.73259, - "precision_at_1": 0.39133, - "precision_at_3": 0.26421, - "precision_at_5": 0.21582, - "precision_at_10": 0.1495, - "precision_at_50": 0.04521, - "precision_at_100": 0.02388, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.39192, - "mrr_at_3": 0.48213, - "mrr_at_5": 0.50258, - "mrr_at_10": 0.51344, - "mrr_at_50": 0.51904, - "mrr_at_100": 0.51927, - "mrr_at_1000": 0.51927 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.56069, - "ndcg_at_3": 0.51699, - "ndcg_at_5": 0.51999, - "ndcg_at_10": 0.58213, - "ndcg_at_50": 0.65796, - "ndcg_at_100": 0.66265, - "ndcg_at_1000": 0.66265, - "map_at_1": 0.16972, - "map_at_3": 0.32251, - "map_at_5": 0.3869, - "map_at_10": 0.45659, - "map_at_50": 0.4974, - "map_at_100": 0.49839, - "map_at_1000": 0.49839, - "recall_at_1": 0.16972, - "recall_at_3": 0.38175, - "recall_at_5": 0.49553, - "recall_at_10": 0.67518, - "recall_at_50": 0.88868, - "recall_at_100": 0.90958, - "recall_at_1000": 0.90958, - "precision_at_1": 0.56069, - "precision_at_3": 0.44509, - "precision_at_5": 0.36879, - "precision_at_10": 0.2604, - "precision_at_50": 0.06913, - "precision_at_100": 0.0352, - "precision_at_1000": 0.00352, - "mrr_at_1": 0.56069, - "mrr_at_3": 0.65222, - "mrr_at_5": 0.66652, - "mrr_at_10": 0.67831, - "mrr_at_50": 0.68137, - "mrr_at_100": 0.6815, - "mrr_at_1000": 0.6815 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.60661, - "ndcg_at_3": 0.54132, - "ndcg_at_5": 0.52865, - "ndcg_at_10": 0.57568, - "ndcg_at_50": 0.66105, - "ndcg_at_100": 0.66756, - "ndcg_at_1000": 0.66756, - "map_at_1": 0.16817, - "map_at_3": 0.31176, - "map_at_5": 0.38059, - "map_at_10": 0.45415, - "map_at_50": 0.50217, - "map_at_100": 0.5033, - "map_at_1000": 0.5033, - "recall_at_1": 0.16817, - "recall_at_3": 0.35713, - "recall_at_5": 0.46746, - "recall_at_10": 0.6284, - "recall_at_50": 0.8616, - "recall_at_100": 0.89201, - "recall_at_1000": 0.89201, - "precision_at_1": 0.60661, - "precision_at_3": 0.47447, - "precision_at_5": 0.39279, - "precision_at_10": 0.27928, - "precision_at_50": 0.07658, - "precision_at_100": 0.03907, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.60661, - "mrr_at_3": 0.68819, - "mrr_at_5": 0.69735, - "mrr_at_10": 0.70674, - "mrr_at_50": 0.70953, - "mrr_at_100": 0.70979, - "mrr_at_1000": 0.70979 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.62722, - "ndcg_at_3": 0.56737, - "ndcg_at_5": 0.56121, - "ndcg_at_10": 0.59926, - "ndcg_at_50": 0.67693, - "ndcg_at_100": 0.68228, - "ndcg_at_1000": 0.68228, - "map_at_1": 0.19109, - "map_at_3": 0.34318, - "map_at_5": 0.41345, - "map_at_10": 0.48948, - "map_at_50": 0.53307, - "map_at_100": 0.53393, - "map_at_1000": 0.53393, - "recall_at_1": 0.19109, - "recall_at_3": 0.38442, - "recall_at_5": 0.49459, - "recall_at_10": 0.64344, - "recall_at_50": 0.85314, - "recall_at_100": 0.88033, - "recall_at_1000": 0.88033, - "precision_at_1": 0.62722, - "precision_at_3": 0.48521, - "precision_at_5": 0.40651, - "precision_at_10": 0.28432, - "precision_at_50": 0.07544, - "precision_at_100": 0.03831, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.62722, - "mrr_at_3": 0.70266, - "mrr_at_5": 0.7142, - "mrr_at_10": 0.71875, - "mrr_at_50": 0.72237, - "mrr_at_100": 0.72262, - "mrr_at_1000": 0.72262 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.69027, - "ndcg_at_3": 0.59512, - "ndcg_at_5": 0.60506, - "ndcg_at_10": 0.65761, - "ndcg_at_50": 0.73449, - "ndcg_at_100": 0.73869, - "ndcg_at_1000": 0.73869, - "map_at_1": 0.22819, - "map_at_3": 0.3955, - "map_at_5": 0.4731, - "map_at_10": 0.53853, - "map_at_50": 0.58176, - "map_at_100": 0.58248, - "map_at_1000": 0.58248, - "recall_at_1": 0.22819, - "recall_at_3": 0.44057, - "recall_at_5": 0.56881, - "recall_at_10": 0.72416, - "recall_at_50": 0.94032, - "recall_at_100": 0.96004, - "recall_at_1000": 0.96004, - "precision_at_1": 0.69027, - "precision_at_3": 0.49656, - "precision_at_5": 0.40885, - "precision_at_10": 0.27493, - "precision_at_50": 0.07333, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.69027, - "mrr_at_3": 0.7591, - "mrr_at_5": 0.76912, - "mrr_at_10": 0.77535, - "mrr_at_50": 0.77776, - "mrr_at_100": 0.77784, - "mrr_at_1000": 0.77784 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.77446, - "ndcg_at_3": 0.69152, - "ndcg_at_5": 0.68348, - "ndcg_at_10": 0.72665, - "ndcg_at_50": 0.79836, - "ndcg_at_100": 0.80247, - "ndcg_at_1000": 0.80247, - "map_at_1": 0.27577, - "map_at_3": 0.46508, - "map_at_5": 0.54296, - "map_at_10": 0.61148, - "map_at_50": 0.6553, - "map_at_100": 0.6564, - "map_at_1000": 0.6564, - "recall_at_1": 0.27577, - "recall_at_3": 0.51159, - "recall_at_5": 0.63379, - "recall_at_10": 0.7727, - "recall_at_50": 0.95983, - "recall_at_100": 0.97468, - "recall_at_1000": 0.97468, - "precision_at_1": 0.77446, - "precision_at_3": 0.55888, - "precision_at_5": 0.44946, - "precision_at_10": 0.29701, - "precision_at_50": 0.07734, - "precision_at_100": 0.0394, - "precision_at_1000": 0.00394, - "mrr_at_1": 0.77446, - "mrr_at_3": 0.84783, - "mrr_at_5": 0.85503, - "mrr_at_10": 0.8562, - "mrr_at_50": 0.85747, - "mrr_at_100": 0.85747, - "mrr_at_1000": 0.85747 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.58333, - "ndcg_at_3": 0.54775, - "ndcg_at_5": 0.56055, - "ndcg_at_10": 0.60308, - "ndcg_at_50": 0.66428, - "ndcg_at_100": 0.67019, - "ndcg_at_1000": 0.67019, - "map_at_1": 0.2527, - "map_at_3": 0.40896, - "map_at_5": 0.46535, - "map_at_10": 0.51106, - "map_at_50": 0.53996, - "map_at_100": 0.54088, - "map_at_1000": 0.54088, - "recall_at_1": 0.2527, - "recall_at_3": 0.45627, - "recall_at_5": 0.56036, - "recall_at_10": 0.67339, - "recall_at_50": 0.85596, - "recall_at_100": 0.88582, - "recall_at_1000": 0.88582, - "precision_at_1": 0.58333, - "precision_at_3": 0.41667, - "precision_at_5": 0.32738, - "precision_at_10": 0.21042, - "precision_at_50": 0.05524, - "precision_at_100": 0.02824, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.58929, - "mrr_at_3": 0.6622, - "mrr_at_5": 0.67589, - "mrr_at_10": 0.67987, - "mrr_at_50": 0.68425, - "mrr_at_100": 0.6846, - "mrr_at_1000": 0.6846 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.60563, - "ndcg_at_3": 0.56237, - "ndcg_at_5": 0.58475, - "ndcg_at_10": 0.64988, - "ndcg_at_50": 0.70508, - "ndcg_at_100": 0.70856, - "ndcg_at_1000": 0.70856, - "map_at_1": 0.2921, - "map_at_3": 0.4375, - "map_at_5": 0.48702, - "map_at_10": 0.53962, - "map_at_50": 0.56452, - "map_at_100": 0.56505, - "map_at_1000": 0.56505, - "recall_at_1": 0.2921, - "recall_at_3": 0.51034, - "recall_at_5": 0.60982, - "recall_at_10": 0.76144, - "recall_at_50": 0.93539, - "recall_at_100": 0.95276, - "recall_at_1000": 0.95276, - "precision_at_1": 0.60563, - "precision_at_3": 0.40282, - "precision_at_5": 0.30817, - "precision_at_10": 0.20507, - "precision_at_50": 0.05149, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.60563, - "mrr_at_3": 0.69953, - "mrr_at_5": 0.71066, - "mrr_at_10": 0.71801, - "mrr_at_50": 0.72094, - "mrr_at_100": 0.72107, - "mrr_at_1000": 0.72107 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.59104, - "ndcg_at_3": 0.54228, - "ndcg_at_5": 0.56163, - "ndcg_at_10": 0.62099, - "ndcg_at_50": 0.68095, - "ndcg_at_100": 0.68645, - "ndcg_at_1000": 0.68645, - "map_at_1": 0.28976, - "map_at_3": 0.42836, - "map_at_5": 0.47174, - "map_at_10": 0.51279, - "map_at_50": 0.54083, - "map_at_100": 0.54174, - "map_at_1000": 0.54174, - "recall_at_1": 0.28976, - "recall_at_3": 0.48632, - "recall_at_5": 0.57667, - "recall_at_10": 0.72471, - "recall_at_50": 0.90486, - "recall_at_100": 0.93127, - "recall_at_1000": 0.93127, - "precision_at_1": 0.59104, - "precision_at_3": 0.38282, - "precision_at_5": 0.28852, - "precision_at_10": 0.18824, - "precision_at_50": 0.04908, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.59104, - "mrr_at_3": 0.669, - "mrr_at_5": 0.68651, - "mrr_at_10": 0.69808, - "mrr_at_50": 0.70067, - "mrr_at_100": 0.70081, - "mrr_at_1000": 0.70081 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.59409, - "ndcg_at_3": 0.55143, - "ndcg_at_5": 0.56284, - "ndcg_at_10": 0.61067, - "ndcg_at_50": 0.66074, - "ndcg_at_100": 0.66738, - "ndcg_at_1000": 0.66738, - "map_at_1": 0.30992, - "map_at_3": 0.44347, - "map_at_5": 0.48016, - "map_at_10": 0.51402, - "map_at_50": 0.53473, - "map_at_100": 0.53589, - "map_at_1000": 0.53589, - "recall_at_1": 0.30992, - "recall_at_3": 0.49982, - "recall_at_5": 0.57657, - "recall_at_10": 0.68571, - "recall_at_50": 0.84289, - "recall_at_100": 0.87289, - "recall_at_1000": 0.87289, - "precision_at_1": 0.59409, - "precision_at_3": 0.37545, - "precision_at_5": 0.27742, - "precision_at_10": 0.17581, - "precision_at_50": 0.04527, - "precision_at_100": 0.02352, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.59409, - "mrr_at_3": 0.67518, - "mrr_at_5": 0.68714, - "mrr_at_10": 0.69594, - "mrr_at_50": 0.69872, - "mrr_at_100": 0.6989, - "mrr_at_1000": 0.6989 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.46175, - "ndcg_at_3": 0.44896, - "ndcg_at_5": 0.4631, - "ndcg_at_10": 0.52252, - "ndcg_at_50": 0.60259, - "ndcg_at_100": 0.61485, - "ndcg_at_1000": 0.61485, - "map_at_1": 0.19195, - "map_at_3": 0.31591, - "map_at_5": 0.36249, - "map_at_10": 0.41286, - "map_at_50": 0.44874, - "map_at_100": 0.45067, - "map_at_1000": 0.45067, - "recall_at_1": 0.19195, - "recall_at_3": 0.37418, - "recall_at_5": 0.47314, - "recall_at_10": 0.62171, - "recall_at_50": 0.86664, - "recall_at_100": 0.9257, - "recall_at_1000": 0.9257, - "precision_at_1": 0.46175, - "precision_at_3": 0.35428, - "precision_at_5": 0.28197, - "precision_at_10": 0.19508, - "precision_at_50": 0.05525, - "precision_at_100": 0.02902, - "precision_at_1000": 0.0029, - "mrr_at_1": 0.46175, - "mrr_at_3": 0.56603, - "mrr_at_5": 0.58201, - "mrr_at_10": 0.59342, - "mrr_at_50": 0.59898, - "mrr_at_100": 0.5994, - "mrr_at_1000": 0.5994 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.50811, - "ndcg_at_3": 0.50724, - "ndcg_at_5": 0.54345, - "ndcg_at_10": 0.60614, - "ndcg_at_50": 0.6667, - "ndcg_at_100": 0.67189, - "ndcg_at_1000": 0.67189, - "map_at_1": 0.27218, - "map_at_3": 0.40888, - "map_at_5": 0.45576, - "map_at_10": 0.50003, - "map_at_50": 0.52421, - "map_at_100": 0.52514, - "map_at_1000": 0.52514, - "recall_at_1": 0.27218, - "recall_at_3": 0.49106, - "recall_at_5": 0.60418, - "recall_at_10": 0.75185, - "recall_at_50": 0.95664, - "recall_at_100": 0.98063, - "recall_at_1000": 0.98063, - "precision_at_1": 0.50811, - "precision_at_3": 0.34144, - "precision_at_5": 0.26324, - "precision_at_10": 0.17459, - "precision_at_50": 0.0453, - "precision_at_100": 0.02324, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.50811, - "mrr_at_3": 0.61036, - "mrr_at_5": 0.63036, - "mrr_at_10": 0.64089, - "mrr_at_50": 0.64548, - "mrr_at_100": 0.6456, - "mrr_at_1000": 0.6456 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.38957, - "ndcg_at_3": 0.42925, - "ndcg_at_5": 0.47305, - "ndcg_at_10": 0.52732, - "ndcg_at_50": 0.58583, - "ndcg_at_100": 0.59488, - "ndcg_at_1000": 0.59488, - "map_at_1": 0.24236, - "map_at_3": 0.35335, - "map_at_5": 0.39479, - "map_at_10": 0.4298, - "map_at_50": 0.45002, - "map_at_100": 0.45124, - "map_at_1000": 0.45124, - "recall_at_1": 0.24236, - "recall_at_3": 0.45343, - "recall_at_5": 0.56294, - "recall_at_10": 0.69411, - "recall_at_50": 0.90992, - "recall_at_100": 0.95706, - "recall_at_1000": 0.95706, - "precision_at_1": 0.38957, - "precision_at_3": 0.27096, - "precision_at_5": 0.21227, - "precision_at_10": 0.13865, - "precision_at_50": 0.03583, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.38957, - "mrr_at_3": 0.49898, - "mrr_at_5": 0.518, - "mrr_at_10": 0.52725, - "mrr_at_50": 0.53537, - "mrr_at_100": 0.53579, - "mrr_at_1000": 0.53579 - }, - "gpt3": { - "ndcg_at_1": 0.34421, - "ndcg_at_3": 0.41207, - "ndcg_at_5": 0.45522, - "ndcg_at_10": 0.49382, - "ndcg_at_50": 0.55996, - "ndcg_at_100": 0.56864, - "ndcg_at_1000": 0.56864, - "map_at_1": 0.27794, - "map_at_3": 0.37022, - "map_at_5": 0.39717, - "map_at_10": 0.41712, - "map_at_50": 0.43525, - "map_at_100": 0.43632, - "map_at_1000": 0.43632, - "recall_at_1": 0.27794, - "recall_at_3": 0.46612, - "recall_at_5": 0.55836, - "recall_at_10": 0.66222, - "recall_at_50": 0.92606, - "recall_at_100": 0.97354, - "recall_at_1000": 0.97354, - "precision_at_1": 0.34421, - "precision_at_3": 0.20574, - "precision_at_5": 0.1543, - "precision_at_10": 0.09436, - "precision_at_50": 0.02718, - "precision_at_100": 0.0143, - "precision_at_1000": 0.00143, - "mrr_at_1": 0.34421, - "mrr_at_3": 0.43521, - "mrr_at_5": 0.45969, - "mrr_at_10": 0.47085, - "mrr_at_50": 0.48126, - "mrr_at_100": 0.48176, - "mrr_at_1000": 0.48176 - }, - "llm-survey": { - "ndcg_at_1": 0.36134, - "ndcg_at_3": 0.35921, - "ndcg_at_5": 0.38608, - "ndcg_at_10": 0.44683, - "ndcg_at_50": 0.5334, - "ndcg_at_100": 0.54337, - "ndcg_at_1000": 0.54337, - "map_at_1": 0.16999, - "map_at_3": 0.26916, - "map_at_5": 0.30446, - "map_at_10": 0.34419, - "map_at_50": 0.37905, - "map_at_100": 0.38024, - "map_at_1000": 0.38024, - "recall_at_1": 0.16999, - "recall_at_3": 0.33053, - "recall_at_5": 0.41635, - "recall_at_10": 0.5683, - "recall_at_50": 0.85919, - "recall_at_100": 0.91496, - "recall_at_1000": 0.91496, - "precision_at_1": 0.36134, - "precision_at_3": 0.26611, - "precision_at_5": 0.21457, - "precision_at_10": 0.1521, - "precision_at_50": 0.04611, - "precision_at_100": 0.02389, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.36134, - "mrr_at_3": 0.45798, - "mrr_at_5": 0.47549, - "mrr_at_10": 0.49129, - "mrr_at_50": 0.49816, - "mrr_at_100": 0.49874, - "mrr_at_1000": 0.49874 - }, - "gemini": { - "ndcg_at_1": 0.3253, - "ndcg_at_3": 0.45467, - "ndcg_at_5": 0.49305, - "ndcg_at_10": 0.52235, - "ndcg_at_50": 0.56766, - "ndcg_at_100": 0.57429, - "ndcg_at_1000": 0.57429, - "map_at_1": 0.3253, - "map_at_3": 0.42303, - "map_at_5": 0.44451, - "map_at_10": 0.45704, - "map_at_50": 0.46671, - "map_at_100": 0.46732, - "map_at_1000": 0.46732, - "recall_at_1": 0.3253, - "recall_at_3": 0.54618, - "recall_at_5": 0.63855, - "recall_at_10": 0.72691, - "recall_at_50": 0.93173, - "recall_at_100": 0.97189, - "recall_at_1000": 0.97189, - "precision_at_1": 0.3253, - "precision_at_3": 0.18206, - "precision_at_5": 0.12771, - "precision_at_10": 0.07269, - "precision_at_50": 0.01863, - "precision_at_100": 0.00972, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.3253, - "mrr_at_3": 0.42303, - "mrr_at_5": 0.44451, - "mrr_at_10": 0.45704, - "mrr_at_50": 0.46672, - "mrr_at_100": 0.46735, - "mrr_at_1000": 0.46735 - } - } - } - } - }, - "NoReranker": { - "qa": { - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.63192, - "ndcg_at_3": 0.52988, - "ndcg_at_5": 0.53252, - "ndcg_at_10": 0.55973, - "ndcg_at_50": 0.60276, - "ndcg_at_100": 0.61315, - "ndcg_at_1000": 0.63435, - "map_at_1": 0.32908, - "map_at_3": 0.42136, - "map_at_5": 0.44642, - "map_at_10": 0.46831, - "map_at_50": 0.48563, - "map_at_100": 0.48727, - "map_at_1000": 0.48863, - "recall_at_1": 0.32908, - "recall_at_3": 0.4647, - "recall_at_5": 0.52194, - "recall_at_10": 0.59559, - "recall_at_50": 0.72615, - "recall_at_100": 0.7699, - "recall_at_1000": 0.89006, - "precision_at_1": 0.63192, - "precision_at_3": 0.33433, - "precision_at_5": 0.23681, - "precision_at_10": 0.1433, - "precision_at_50": 0.03803, - "precision_at_100": 0.02059, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.63192, - "mrr_at_3": 0.68989, - "mrr_at_5": 0.70068, - "mrr_at_10": 0.70634, - "mrr_at_50": 0.70887, - "mrr_at_100": 0.70918, - "mrr_at_1000": 0.70936 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.66821, - "ndcg_at_3": 0.58987, - "ndcg_at_5": 0.59469, - "ndcg_at_10": 0.61666, - "ndcg_at_50": 0.65236, - "ndcg_at_100": 0.66114, - "ndcg_at_1000": 0.67717, - "map_at_1": 0.38974, - "map_at_3": 0.49708, - "map_at_5": 0.52164, - "map_at_10": 0.54066, - "map_at_50": 0.55483, - "map_at_100": 0.55628, - "map_at_1000": 0.5573, - "recall_at_1": 0.38974, - "recall_at_3": 0.53876, - "recall_at_5": 0.59091, - "recall_at_10": 0.65024, - "recall_at_50": 0.76153, - "recall_at_100": 0.80011, - "recall_at_1000": 0.89366, - "precision_at_1": 0.66821, - "precision_at_3": 0.35263, - "precision_at_5": 0.24412, - "precision_at_10": 0.14256, - "precision_at_50": 0.03592, - "precision_at_100": 0.01917, - "precision_at_1000": 0.0022, - "mrr_at_1": 0.66821, - "mrr_at_3": 0.71724, - "mrr_at_5": 0.72485, - "mrr_at_10": 0.72893, - "mrr_at_50": 0.7317, - "mrr_at_100": 0.73196, - "mrr_at_1000": 0.73214 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.51099, - "ndcg_at_3": 0.4444, - "ndcg_at_5": 0.43512, - "ndcg_at_10": 0.45963, - "ndcg_at_50": 0.52356, - "ndcg_at_100": 0.53918, - "ndcg_at_1000": 0.56501, - "map_at_1": 0.20417, - "map_at_3": 0.29777, - "map_at_5": 0.3284, - "map_at_10": 0.36265, - "map_at_50": 0.39009, - "map_at_100": 0.39299, - "map_at_1000": 0.39485, - "recall_at_1": 0.20417, - "recall_at_3": 0.33542, - "recall_at_5": 0.39733, - "recall_at_10": 0.49125, - "recall_at_50": 0.672, - "recall_at_100": 0.73342, - "recall_at_1000": 0.87492, - "precision_at_1": 0.51099, - "precision_at_3": 0.33452, - "precision_at_5": 0.25585, - "precision_at_10": 0.17207, - "precision_at_50": 0.0509, - "precision_at_100": 0.02807, - "precision_at_1000": 0.00333, - "mrr_at_1": 0.51099, - "mrr_at_3": 0.57734, - "mrr_at_5": 0.59113, - "mrr_at_10": 0.59903, - "mrr_at_50": 0.60371, - "mrr_at_100": 0.60408, - "mrr_at_1000": 0.60433 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.4423, - "ndcg_at_3": 0.40911, - "ndcg_at_5": 0.41673, - "ndcg_at_10": 0.44407, - "ndcg_at_50": 0.50271, - "ndcg_at_100": 0.51768, - "ndcg_at_1000": 0.54211, - "map_at_1": 0.22353, - "map_at_3": 0.29982, - "map_at_5": 0.32992, - "map_at_10": 0.35845, - "map_at_50": 0.38161, - "map_at_100": 0.38417, - "map_at_1000": 0.38581, - "recall_at_1": 0.22353, - "recall_at_3": 0.34733, - "recall_at_5": 0.41455, - "recall_at_10": 0.50021, - "recall_at_50": 0.67118, - "recall_at_100": 0.73259, - "recall_at_1000": 0.86994, - "precision_at_1": 0.4423, - "precision_at_3": 0.27163, - "precision_at_5": 0.21406, - "precision_at_10": 0.14417, - "precision_at_50": 0.04294, - "precision_at_100": 0.02388, - "precision_at_1000": 0.00286, - "mrr_at_1": 0.4423, - "mrr_at_3": 0.51631, - "mrr_at_5": 0.53054, - "mrr_at_10": 0.53967, - "mrr_at_50": 0.54571, - "mrr_at_100": 0.54616, - "mrr_at_1000": 0.54644 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.57514, - "ndcg_at_3": 0.52113, - "ndcg_at_5": 0.52215, - "ndcg_at_10": 0.56662, - "ndcg_at_50": 0.65253, - "ndcg_at_100": 0.66354, - "ndcg_at_1000": 0.67838, - "map_at_1": 0.20353, - "map_at_3": 0.34659, - "map_at_5": 0.4004, - "map_at_10": 0.45261, - "map_at_50": 0.49524, - "map_at_100": 0.49757, - "map_at_1000": 0.49882, - "recall_at_1": 0.20353, - "recall_at_3": 0.39548, - "recall_at_5": 0.49371, - "recall_at_10": 0.62534, - "recall_at_50": 0.86806, - "recall_at_100": 0.90958, - "recall_at_1000": 0.99074, - "precision_at_1": 0.57514, - "precision_at_3": 0.42775, - "precision_at_5": 0.34277, - "precision_at_10": 0.23179, - "precision_at_50": 0.06659, - "precision_at_100": 0.0352, - "precision_at_1000": 0.00379, - "mrr_at_1": 0.57514, - "mrr_at_3": 0.66137, - "mrr_at_5": 0.67741, - "mrr_at_10": 0.68637, - "mrr_at_50": 0.68984, - "mrr_at_100": 0.69008, - "mrr_at_1000": 0.6902 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.57658, - "ndcg_at_3": 0.5026, - "ndcg_at_5": 0.50053, - "ndcg_at_10": 0.53489, - "ndcg_at_50": 0.6326, - "ndcg_at_100": 0.64473, - "ndcg_at_1000": 0.6635, - "map_at_1": 0.1741, - "map_at_3": 0.30484, - "map_at_5": 0.36532, - "map_at_10": 0.41919, - "map_at_50": 0.46747, - "map_at_100": 0.47021, - "map_at_1000": 0.47187, - "recall_at_1": 0.1741, - "recall_at_3": 0.33996, - "recall_at_5": 0.45573, - "recall_at_10": 0.58558, - "recall_at_50": 0.84684, - "recall_at_100": 0.89201, - "recall_at_1000": 0.99389, - "precision_at_1": 0.57658, - "precision_at_3": 0.42342, - "precision_at_5": 0.35315, - "precision_at_10": 0.23934, - "precision_at_50": 0.07387, - "precision_at_100": 0.03907, - "precision_at_1000": 0.00427, - "mrr_at_1": 0.57658, - "mrr_at_3": 0.64214, - "mrr_at_5": 0.66316, - "mrr_at_10": 0.67105, - "mrr_at_50": 0.67608, - "mrr_at_100": 0.67618, - "mrr_at_1000": 0.6763 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.58876, - "ndcg_at_3": 0.52127, - "ndcg_at_5": 0.51017, - "ndcg_at_10": 0.54886, - "ndcg_at_50": 0.62896, - "ndcg_at_100": 0.64463, - "ndcg_at_1000": 0.66483, - "map_at_1": 0.17428, - "map_at_3": 0.31301, - "map_at_5": 0.37046, - "map_at_10": 0.43149, - "map_at_50": 0.47194, - "map_at_100": 0.47537, - "map_at_1000": 0.47718, - "recall_at_1": 0.17428, - "recall_at_3": 0.35314, - "recall_at_5": 0.45444, - "recall_at_10": 0.60152, - "recall_at_50": 0.82055, - "recall_at_100": 0.88033, - "recall_at_1000": 0.98896, - "precision_at_1": 0.58876, - "precision_at_3": 0.44576, - "precision_at_5": 0.36036, - "precision_at_10": 0.24911, - "precision_at_50": 0.07101, - "precision_at_100": 0.03831, - "precision_at_1000": 0.00422, - "mrr_at_1": 0.58876, - "mrr_at_3": 0.65976, - "mrr_at_5": 0.67396, - "mrr_at_10": 0.6824, - "mrr_at_50": 0.68664, - "mrr_at_100": 0.68691, - "mrr_at_1000": 0.68707 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.70206, - "ndcg_at_3": 0.59486, - "ndcg_at_5": 0.60022, - "ndcg_at_10": 0.64791, - "ndcg_at_50": 0.72223, - "ndcg_at_100": 0.73408, - "ndcg_at_1000": 0.74164, - "map_at_1": 0.23286, - "map_at_3": 0.39597, - "map_at_5": 0.46939, - "map_at_10": 0.53119, - "map_at_50": 0.57077, - "map_at_100": 0.57307, - "map_at_1000": 0.57377, - "recall_at_1": 0.23286, - "recall_at_3": 0.4371, - "recall_at_5": 0.5575, - "recall_at_10": 0.70444, - "recall_at_50": 0.90958, - "recall_at_100": 0.96004, - "recall_at_1000": 1.0, - "precision_at_1": 0.70206, - "precision_at_3": 0.49066, - "precision_at_5": 0.39705, - "precision_at_10": 0.26401, - "precision_at_50": 0.0708, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00386, - "mrr_at_1": 0.70206, - "mrr_at_3": 0.76401, - "mrr_at_5": 0.77389, - "mrr_at_10": 0.7802, - "mrr_at_50": 0.78289, - "mrr_at_100": 0.78328, - "mrr_at_1000": 0.78331 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.74728, - "ndcg_at_3": 0.66863, - "ndcg_at_5": 0.65906, - "ndcg_at_10": 0.70342, - "ndcg_at_50": 0.7773, - "ndcg_at_100": 0.78594, - "ndcg_at_1000": 0.79103, - "map_at_1": 0.27296, - "map_at_3": 0.45708, - "map_at_5": 0.52717, - "map_at_10": 0.59471, - "map_at_50": 0.63778, - "map_at_100": 0.63975, - "map_at_1000": 0.64032, - "recall_at_1": 0.27296, - "recall_at_3": 0.49402, - "recall_at_5": 0.60728, - "recall_at_10": 0.74696, - "recall_at_50": 0.94094, - "recall_at_100": 0.97468, - "recall_at_1000": 1.0, - "precision_at_1": 0.74728, - "precision_at_3": 0.53895, - "precision_at_5": 0.42826, - "precision_at_10": 0.28668, - "precision_at_50": 0.07592, - "precision_at_100": 0.0394, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.74728, - "mrr_at_3": 0.80707, - "mrr_at_5": 0.81793, - "mrr_at_10": 0.82166, - "mrr_at_50": 0.8238, - "mrr_at_100": 0.82387, - "mrr_at_1000": 0.82389 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.55655, - "ndcg_at_3": 0.51809, - "ndcg_at_5": 0.52335, - "ndcg_at_10": 0.56091, - "ndcg_at_50": 0.62107, - "ndcg_at_100": 0.63921, - "ndcg_at_1000": 0.65743, - "map_at_1": 0.24318, - "map_at_3": 0.38705, - "map_at_5": 0.43093, - "map_at_10": 0.46814, - "map_at_50": 0.4943, - "map_at_100": 0.49761, - "map_at_1000": 0.49894, - "recall_at_1": 0.24318, - "recall_at_3": 0.43894, - "recall_at_5": 0.52148, - "recall_at_10": 0.62792, - "recall_at_50": 0.80883, - "recall_at_100": 0.88582, - "recall_at_1000": 0.99593, - "precision_at_1": 0.55655, - "precision_at_3": 0.3869, - "precision_at_5": 0.29702, - "precision_at_10": 0.18839, - "precision_at_50": 0.05107, - "precision_at_100": 0.02824, - "precision_at_1000": 0.0031, - "mrr_at_1": 0.55655, - "mrr_at_3": 0.63294, - "mrr_at_5": 0.64514, - "mrr_at_10": 0.65153, - "mrr_at_50": 0.65526, - "mrr_at_100": 0.65581, - "mrr_at_1000": 0.65607 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.57183, - "ndcg_at_3": 0.53168, - "ndcg_at_5": 0.56197, - "ndcg_at_10": 0.61058, - "ndcg_at_50": 0.66973, - "ndcg_at_100": 0.68326, - "ndcg_at_1000": 0.69199, - "map_at_1": 0.27989, - "map_at_3": 0.41558, - "map_at_5": 0.46603, - "map_at_10": 0.50194, - "map_at_50": 0.52807, - "map_at_100": 0.53048, - "map_at_1000": 0.5313, - "recall_at_1": 0.27989, - "recall_at_3": 0.48311, - "recall_at_5": 0.59434, - "recall_at_10": 0.71401, - "recall_at_50": 0.89174, - "recall_at_100": 0.95276, - "recall_at_1000": 1.0, - "precision_at_1": 0.57183, - "precision_at_3": 0.37465, - "precision_at_5": 0.29127, - "precision_at_10": 0.18338, - "precision_at_50": 0.04879, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.57183, - "mrr_at_3": 0.66714, - "mrr_at_5": 0.68488, - "mrr_at_10": 0.69334, - "mrr_at_50": 0.69603, - "mrr_at_100": 0.69632, - "mrr_at_1000": 0.69637 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.61064, - "ndcg_at_3": 0.55376, - "ndcg_at_5": 0.56868, - "ndcg_at_10": 0.61081, - "ndcg_at_50": 0.67594, - "ndcg_at_100": 0.68559, - "ndcg_at_1000": 0.69854, - "map_at_1": 0.29569, - "map_at_3": 0.43957, - "map_at_5": 0.4792, - "map_at_10": 0.50859, - "map_at_50": 0.53678, - "map_at_100": 0.53837, - "map_at_1000": 0.53954, - "recall_at_1": 0.29569, - "recall_at_3": 0.50098, - "recall_at_5": 0.58633, - "recall_at_10": 0.68888, - "recall_at_50": 0.88824, - "recall_at_100": 0.93127, - "recall_at_1000": 1.0, - "precision_at_1": 0.61064, - "precision_at_3": 0.38469, - "precision_at_5": 0.28347, - "precision_at_10": 0.17395, - "precision_at_50": 0.04784, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.61064, - "mrr_at_3": 0.68908, - "mrr_at_5": 0.70154, - "mrr_at_10": 0.71155, - "mrr_at_50": 0.7149, - "mrr_at_100": 0.71521, - "mrr_at_1000": 0.71529 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.59677, - "ndcg_at_3": 0.51906, - "ndcg_at_5": 0.53319, - "ndcg_at_10": 0.57637, - "ndcg_at_50": 0.63196, - "ndcg_at_100": 0.64449, - "ndcg_at_1000": 0.66665, - "map_at_1": 0.31826, - "map_at_3": 0.41942, - "map_at_5": 0.45196, - "map_at_10": 0.48141, - "map_at_50": 0.501, - "map_at_100": 0.50328, - "map_at_1000": 0.50505, - "recall_at_1": 0.31826, - "recall_at_3": 0.46011, - "recall_at_5": 0.53966, - "recall_at_10": 0.64441, - "recall_at_50": 0.82096, - "recall_at_100": 0.87289, - "recall_at_1000": 1.0, - "precision_at_1": 0.59677, - "precision_at_3": 0.33333, - "precision_at_5": 0.24731, - "precision_at_10": 0.15726, - "precision_at_50": 0.04317, - "precision_at_100": 0.02352, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.59677, - "mrr_at_3": 0.65547, - "mrr_at_5": 0.67227, - "mrr_at_10": 0.68017, - "mrr_at_50": 0.68493, - "mrr_at_100": 0.68512, - "mrr_at_1000": 0.6853 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.54372, - "ndcg_at_3": 0.49643, - "ndcg_at_5": 0.50988, - "ndcg_at_10": 0.56139, - "ndcg_at_50": 0.6362, - "ndcg_at_100": 0.64957, - "ndcg_at_1000": 0.66262, - "map_at_1": 0.24574, - "map_at_3": 0.36777, - "map_at_5": 0.41213, - "map_at_10": 0.45573, - "map_at_50": 0.4887, - "map_at_100": 0.49111, - "map_at_1000": 0.49215, - "recall_at_1": 0.24574, - "recall_at_3": 0.4229, - "recall_at_5": 0.5141, - "recall_at_10": 0.64496, - "recall_at_50": 0.86747, - "recall_at_100": 0.9257, - "recall_at_1000": 0.99911, - "precision_at_1": 0.54372, - "precision_at_3": 0.3643, - "precision_at_5": 0.2847, - "precision_at_10": 0.19071, - "precision_at_50": 0.05426, - "precision_at_100": 0.02902, - "precision_at_1000": 0.00312, - "mrr_at_1": 0.54372, - "mrr_at_3": 0.62887, - "mrr_at_5": 0.64199, - "mrr_at_10": 0.6547, - "mrr_at_50": 0.65923, - "mrr_at_100": 0.65938, - "mrr_at_1000": 0.65949 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.57568, - "ndcg_at_3": 0.57445, - "ndcg_at_5": 0.61888, - "ndcg_at_10": 0.67148, - "ndcg_at_50": 0.72075, - "ndcg_at_100": 0.72431, - "ndcg_at_1000": 0.72753, - "map_at_1": 0.3324, - "map_at_3": 0.48084, - "map_at_5": 0.53277, - "map_at_10": 0.57201, - "map_at_50": 0.59335, - "map_at_100": 0.594, - "map_at_1000": 0.59429, - "recall_at_1": 0.3324, - "recall_at_3": 0.55533, - "recall_at_5": 0.68121, - "recall_at_10": 0.80373, - "recall_at_50": 0.96477, - "recall_at_100": 0.98063, - "recall_at_1000": 1.0, - "precision_at_1": 0.57568, - "precision_at_3": 0.37207, - "precision_at_5": 0.29135, - "precision_at_10": 0.18405, - "precision_at_50": 0.04551, - "precision_at_100": 0.02324, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.57568, - "mrr_at_3": 0.67252, - "mrr_at_5": 0.69401, - "mrr_at_10": 0.69998, - "mrr_at_50": 0.70302, - "mrr_at_100": 0.70305, - "mrr_at_1000": 0.70309 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41104, - "ndcg_at_3": 0.43633, - "ndcg_at_5": 0.47769, - "ndcg_at_10": 0.54153, - "ndcg_at_50": 0.59374, - "ndcg_at_100": 0.60275, - "ndcg_at_1000": 0.60935, - "map_at_1": 0.2532, - "map_at_3": 0.36755, - "map_at_5": 0.40415, - "map_at_10": 0.44293, - "map_at_50": 0.45983, - "map_at_100": 0.46122, - "map_at_1000": 0.46163, - "recall_at_1": 0.2532, - "recall_at_3": 0.45302, - "recall_at_5": 0.55745, - "recall_at_10": 0.71746, - "recall_at_50": 0.91217, - "recall_at_100": 0.95706, - "recall_at_1000": 1.0, - "precision_at_1": 0.41104, - "precision_at_3": 0.26176, - "precision_at_5": 0.20429, - "precision_at_10": 0.13896, - "precision_at_50": 0.03558, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.41104, - "mrr_at_3": 0.50818, - "mrr_at_5": 0.53088, - "mrr_at_10": 0.54408, - "mrr_at_50": 0.54999, - "mrr_at_100": 0.55028, - "mrr_at_1000": 0.55042 - }, - "gpt3": { - "ndcg_at_1": 0.38576, - "ndcg_at_3": 0.48209, - "ndcg_at_5": 0.52713, - "ndcg_at_10": 0.57146, - "ndcg_at_50": 0.612, - "ndcg_at_100": 0.62047, - "ndcg_at_1000": 0.62447, - "map_at_1": 0.31182, - "map_at_3": 0.43398, - "map_at_5": 0.46374, - "map_at_10": 0.48618, - "map_at_50": 0.49757, - "map_at_100": 0.49863, - "map_at_1000": 0.4989, - "recall_at_1": 0.31182, - "recall_at_3": 0.55168, - "recall_at_5": 0.64862, - "recall_at_10": 0.77003, - "recall_at_50": 0.92829, - "recall_at_100": 0.97354, - "recall_at_1000": 1.0, - "precision_at_1": 0.38576, - "precision_at_3": 0.24233, - "precision_at_5": 0.17864, - "precision_at_10": 0.10861, - "precision_at_50": 0.02712, - "precision_at_100": 0.0143, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.38576, - "mrr_at_3": 0.49901, - "mrr_at_5": 0.52067, - "mrr_at_10": 0.53409, - "mrr_at_50": 0.53993, - "mrr_at_100": 0.54042, - "mrr_at_1000": 0.5405 - }, - "llm-survey": { - "ndcg_at_1": 0.43978, - "ndcg_at_3": 0.43707, - "ndcg_at_5": 0.45682, - "ndcg_at_10": 0.50922, - "ndcg_at_50": 0.57785, - "ndcg_at_100": 0.59069, - "ndcg_at_1000": 0.60461, - "map_at_1": 0.20748, - "map_at_3": 0.33616, - "map_at_5": 0.371, - "map_at_10": 0.41024, - "map_at_50": 0.43566, - "map_at_100": 0.43766, - "map_at_1000": 0.43869, - "recall_at_1": 0.20748, - "recall_at_3": 0.41262, - "recall_at_5": 0.49316, - "recall_at_10": 0.62277, - "recall_at_50": 0.85405, - "recall_at_100": 0.91496, - "recall_at_1000": 1.0, - "precision_at_1": 0.43978, - "precision_at_3": 0.31279, - "precision_at_5": 0.23754, - "precision_at_10": 0.16022, - "precision_at_50": 0.04476, - "precision_at_100": 0.02389, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.43978, - "mrr_at_3": 0.53828, - "mrr_at_5": 0.55215, - "mrr_at_10": 0.56237, - "mrr_at_50": 0.56938, - "mrr_at_100": 0.56993, - "mrr_at_1000": 0.57004 - }, - "gemini": { - "ndcg_at_1": 0.40964, - "ndcg_at_3": 0.5273, - "ndcg_at_5": 0.55547, - "ndcg_at_10": 0.58576, - "ndcg_at_50": 0.62376, - "ndcg_at_100": 0.62771, - "ndcg_at_1000": 0.63166, - "map_at_1": 0.40964, - "map_at_3": 0.49732, - "map_at_5": 0.51299, - "map_at_10": 0.52573, - "map_at_50": 0.53388, - "map_at_100": 0.53424, - "map_at_1000": 0.53445, - "recall_at_1": 0.40964, - "recall_at_3": 0.61446, - "recall_at_5": 0.68273, - "recall_at_10": 0.7751, - "recall_at_50": 0.94779, - "recall_at_100": 0.97189, - "recall_at_1000": 1.0, - "precision_at_1": 0.40964, - "precision_at_3": 0.20482, - "precision_at_5": 0.13655, - "precision_at_10": 0.07751, - "precision_at_50": 0.01896, - "precision_at_100": 0.00972, - "precision_at_1000": 0.001, - "mrr_at_1": 0.40964, - "mrr_at_3": 0.49732, - "mrr_at_5": 0.51299, - "mrr_at_10": 0.52573, - "mrr_at_50": 0.53388, - "mrr_at_100": 0.53424, - "mrr_at_1000": 0.53445 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.45503, - "ndcg_at_3": 0.42169, - "ndcg_at_5": 0.43663, - "ndcg_at_10": 0.47505, - "ndcg_at_50": 0.52853, - "ndcg_at_100": 0.54012, - "ndcg_at_1000": 0.54012, - "map_at_1": 0.2458, - "map_at_3": 0.32911, - "map_at_5": 0.3541, - "map_at_10": 0.37919, - "map_at_50": 0.39876, - "map_at_100": 0.40066, - "map_at_1000": 0.40066, - "recall_at_1": 0.2458, - "recall_at_3": 0.39127, - "recall_at_5": 0.45768, - "recall_at_10": 0.55611, - "recall_at_50": 0.72104, - "recall_at_100": 0.7699, - "recall_at_1000": 0.7699, - "precision_at_1": 0.45503, - "precision_at_3": 0.2704, - "precision_at_5": 0.20143, - "precision_at_10": 0.13061, - "precision_at_50": 0.03772, - "precision_at_100": 0.02059, - "precision_at_1000": 0.00206, - "mrr_at_1": 0.45503, - "mrr_at_3": 0.54556, - "mrr_at_5": 0.56149, - "mrr_at_10": 0.5727, - "mrr_at_50": 0.57739, - "mrr_at_100": 0.57774, - "mrr_at_1000": 0.57774 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.66416, - "ndcg_at_3": 0.60327, - "ndcg_at_5": 0.61464, - "ndcg_at_10": 0.64411, - "ndcg_at_50": 0.67465, - "ndcg_at_100": 0.678, - "ndcg_at_1000": 0.678, - "map_at_1": 0.39512, - "map_at_3": 0.50937, - "map_at_5": 0.54083, - "map_at_10": 0.56676, - "map_at_50": 0.58035, - "map_at_100": 0.5809, - "map_at_1000": 0.5809, - "recall_at_1": 0.39512, - "recall_at_3": 0.5556, - "recall_at_5": 0.61835, - "recall_at_10": 0.69398, - "recall_at_50": 0.78498, - "recall_at_100": 0.80011, - "recall_at_1000": 0.80011, - "precision_at_1": 0.66416, - "precision_at_3": 0.36151, - "precision_at_5": 0.25895, - "precision_at_10": 0.15622, - "precision_at_50": 0.03748, - "precision_at_100": 0.01917, - "precision_at_1000": 0.00192, - "mrr_at_1": 0.66416, - "mrr_at_3": 0.72129, - "mrr_at_5": 0.72844, - "mrr_at_10": 0.73349, - "mrr_at_50": 0.73616, - "mrr_at_100": 0.73627, - "mrr_at_1000": 0.73627 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.40422, - "ndcg_at_3": 0.40095, - "ndcg_at_5": 0.41078, - "ndcg_at_10": 0.44119, - "ndcg_at_50": 0.50462, - "ndcg_at_100": 0.51338, - "ndcg_at_1000": 0.51338, - "map_at_1": 0.20382, - "map_at_3": 0.2881, - "map_at_5": 0.32026, - "map_at_10": 0.3505, - "map_at_50": 0.37797, - "map_at_100": 0.37938, - "map_at_1000": 0.37938, - "recall_at_1": 0.20382, - "recall_at_3": 0.34649, - "recall_at_5": 0.41887, - "recall_at_10": 0.51418, - "recall_at_50": 0.69289, - "recall_at_100": 0.73259, - "recall_at_1000": 0.73259, - "precision_at_1": 0.40422, - "precision_at_3": 0.27788, - "precision_at_5": 0.22132, - "precision_at_10": 0.14997, - "precision_at_50": 0.04541, - "precision_at_100": 0.02388, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.40422, - "mrr_at_3": 0.49326, - "mrr_at_5": 0.50996, - "mrr_at_10": 0.52085, - "mrr_at_50": 0.52598, - "mrr_at_100": 0.52634, - "mrr_at_1000": 0.52634 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.48266, - "ndcg_at_3": 0.44993, - "ndcg_at_5": 0.45715, - "ndcg_at_10": 0.51174, - "ndcg_at_50": 0.60209, - "ndcg_at_100": 0.61494, - "ndcg_at_1000": 0.61494, - "map_at_1": 0.1549, - "map_at_3": 0.27741, - "map_at_5": 0.33557, - "map_at_10": 0.39478, - "map_at_50": 0.43767, - "map_at_100": 0.44017, - "map_at_1000": 0.44017, - "recall_at_1": 0.1549, - "recall_at_3": 0.32986, - "recall_at_5": 0.43714, - "recall_at_10": 0.59478, - "recall_at_50": 0.85414, - "recall_at_100": 0.90958, - "recall_at_1000": 0.90958, - "precision_at_1": 0.48266, - "precision_at_3": 0.38536, - "precision_at_5": 0.32023, - "precision_at_10": 0.22803, - "precision_at_50": 0.06676, - "precision_at_100": 0.0352, - "precision_at_1000": 0.00352, - "mrr_at_1": 0.48266, - "mrr_at_3": 0.58092, - "mrr_at_5": 0.59697, - "mrr_at_10": 0.60672, - "mrr_at_50": 0.6124, - "mrr_at_100": 0.61276, - "mrr_at_1000": 0.61276 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.48949, - "ndcg_at_3": 0.4517, - "ndcg_at_5": 0.43405, - "ndcg_at_10": 0.4821, - "ndcg_at_50": 0.58452, - "ndcg_at_100": 0.59998, - "ndcg_at_1000": 0.59998, - "map_at_1": 0.12803, - "map_at_3": 0.25476, - "map_at_5": 0.30275, - "map_at_10": 0.36842, - "map_at_50": 0.41692, - "map_at_100": 0.42005, - "map_at_1000": 0.42005, - "recall_at_1": 0.12803, - "recall_at_3": 0.29462, - "recall_at_5": 0.37832, - "recall_at_10": 0.53708, - "recall_at_50": 0.83079, - "recall_at_100": 0.89201, - "recall_at_1000": 0.89201, - "precision_at_1": 0.48949, - "precision_at_3": 0.4004, - "precision_at_5": 0.32372, - "precision_at_10": 0.23904, - "precision_at_50": 0.07315, - "precision_at_100": 0.03907, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.48949, - "mrr_at_3": 0.57608, - "mrr_at_5": 0.59124, - "mrr_at_10": 0.60288, - "mrr_at_50": 0.60867, - "mrr_at_100": 0.60909, - "mrr_at_1000": 0.60909 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.57101, - "ndcg_at_3": 0.50814, - "ndcg_at_5": 0.50354, - "ndcg_at_10": 0.54551, - "ndcg_at_50": 0.63242, - "ndcg_at_100": 0.64115, - "ndcg_at_1000": 0.64115, - "map_at_1": 0.16666, - "map_at_3": 0.30412, - "map_at_5": 0.36739, - "map_at_10": 0.43375, - "map_at_50": 0.47878, - "map_at_100": 0.48028, - "map_at_1000": 0.48028, - "recall_at_1": 0.16666, - "recall_at_3": 0.34082, - "recall_at_5": 0.45163, - "recall_at_10": 0.60069, - "recall_at_50": 0.84024, - "recall_at_100": 0.88033, - "recall_at_1000": 0.88033, - "precision_at_1": 0.57101, - "precision_at_3": 0.43195, - "precision_at_5": 0.36331, - "precision_at_10": 0.25858, - "precision_at_50": 0.07438, - "precision_at_100": 0.03831, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.57101, - "mrr_at_3": 0.63856, - "mrr_at_5": 0.65468, - "mrr_at_10": 0.6639, - "mrr_at_50": 0.66761, - "mrr_at_100": 0.66791, - "mrr_at_1000": 0.66791 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.54867, - "ndcg_at_3": 0.50048, - "ndcg_at_5": 0.50875, - "ndcg_at_10": 0.56888, - "ndcg_at_50": 0.65658, - "ndcg_at_100": 0.67139, - "ndcg_at_1000": 0.67139, - "map_at_1": 0.18259, - "map_at_3": 0.33052, - "map_at_5": 0.38862, - "map_at_10": 0.45495, - "map_at_50": 0.49973, - "map_at_100": 0.50216, - "map_at_1000": 0.50216, - "recall_at_1": 0.18259, - "recall_at_3": 0.37601, - "recall_at_5": 0.48014, - "recall_at_10": 0.64933, - "recall_at_50": 0.88994, - "recall_at_100": 0.96004, - "recall_at_1000": 0.96004, - "precision_at_1": 0.54867, - "precision_at_3": 0.42871, - "precision_at_5": 0.34985, - "precision_at_10": 0.24602, - "precision_at_50": 0.07074, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.54867, - "mrr_at_3": 0.63274, - "mrr_at_5": 0.64853, - "mrr_at_10": 0.65793, - "mrr_at_50": 0.66152, - "mrr_at_100": 0.6623, - "mrr_at_1000": 0.6623 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.75, - "ndcg_at_3": 0.6683, - "ndcg_at_5": 0.66776, - "ndcg_at_10": 0.71554, - "ndcg_at_50": 0.78734, - "ndcg_at_100": 0.79111, - "ndcg_at_1000": 0.79111, - "map_at_1": 0.26505, - "map_at_3": 0.44571, - "map_at_5": 0.52751, - "map_at_10": 0.60095, - "map_at_50": 0.64455, - "map_at_100": 0.64543, - "map_at_1000": 0.64543, - "recall_at_1": 0.26505, - "recall_at_3": 0.49236, - "recall_at_5": 0.6215, - "recall_at_10": 0.77322, - "recall_at_50": 0.96013, - "recall_at_100": 0.97468, - "recall_at_1000": 0.97468, - "precision_at_1": 0.75, - "precision_at_3": 0.5462, - "precision_at_5": 0.44728, - "precision_at_10": 0.29783, - "precision_at_50": 0.07755, - "precision_at_100": 0.0394, - "precision_at_1000": 0.00394, - "mrr_at_1": 0.74728, - "mrr_at_3": 0.81159, - "mrr_at_5": 0.82274, - "mrr_at_10": 0.82828, - "mrr_at_50": 0.82911, - "mrr_at_100": 0.82916, - "mrr_at_1000": 0.82916 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.55655, - "ndcg_at_3": 0.53074, - "ndcg_at_5": 0.54099, - "ndcg_at_10": 0.58136, - "ndcg_at_50": 0.64904, - "ndcg_at_100": 0.65572, - "ndcg_at_1000": 0.65572, - "map_at_1": 0.24947, - "map_at_3": 0.39938, - "map_at_5": 0.45256, - "map_at_10": 0.4928, - "map_at_50": 0.52284, - "map_at_100": 0.52418, - "map_at_1000": 0.52418, - "recall_at_1": 0.24947, - "recall_at_3": 0.44714, - "recall_at_5": 0.54131, - "recall_at_10": 0.65236, - "recall_at_50": 0.85744, - "recall_at_100": 0.88582, - "recall_at_1000": 0.88582, - "precision_at_1": 0.55655, - "precision_at_3": 0.40079, - "precision_at_5": 0.3119, - "precision_at_10": 0.2, - "precision_at_50": 0.05452, - "precision_at_100": 0.02824, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.55655, - "mrr_at_3": 0.63145, - "mrr_at_5": 0.64023, - "mrr_at_10": 0.64941, - "mrr_at_50": 0.65464, - "mrr_at_100": 0.65476, - "mrr_at_1000": 0.65476 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.62535, - "ndcg_at_3": 0.57206, - "ndcg_at_5": 0.60135, - "ndcg_at_10": 0.65105, - "ndcg_at_50": 0.70757, - "ndcg_at_100": 0.71359, - "ndcg_at_1000": 0.71359, - "map_at_1": 0.29117, - "map_at_3": 0.4485, - "map_at_5": 0.50324, - "map_at_10": 0.5448, - "map_at_50": 0.57043, - "map_at_100": 0.57149, - "map_at_1000": 0.57149, - "recall_at_1": 0.29117, - "recall_at_3": 0.5151, - "recall_at_5": 0.63244, - "recall_at_10": 0.7502, - "recall_at_50": 0.92497, - "recall_at_100": 0.95276, - "recall_at_1000": 0.95276, - "precision_at_1": 0.62535, - "precision_at_3": 0.41033, - "precision_at_5": 0.31718, - "precision_at_10": 0.19944, - "precision_at_50": 0.05082, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.62535, - "mrr_at_3": 0.71127, - "mrr_at_5": 0.72507, - "mrr_at_10": 0.73132, - "mrr_at_50": 0.73414, - "mrr_at_100": 0.73429, - "mrr_at_1000": 0.73429 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.61345, - "ndcg_at_3": 0.5535, - "ndcg_at_5": 0.57668, - "ndcg_at_10": 0.631, - "ndcg_at_50": 0.68738, - "ndcg_at_100": 0.69453, - "ndcg_at_1000": 0.69453, - "map_at_1": 0.29995, - "map_at_3": 0.44025, - "map_at_5": 0.48651, - "map_at_10": 0.52853, - "map_at_50": 0.55262, - "map_at_100": 0.55372, - "map_at_1000": 0.55372, - "recall_at_1": 0.29995, - "recall_at_3": 0.4968, - "recall_at_5": 0.59701, - "recall_at_10": 0.72379, - "recall_at_50": 0.89534, - "recall_at_100": 0.93127, - "recall_at_1000": 0.93127, - "precision_at_1": 0.61345, - "precision_at_3": 0.38562, - "precision_at_5": 0.28964, - "precision_at_10": 0.18796, - "precision_at_50": 0.04891, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.61345, - "mrr_at_3": 0.69234, - "mrr_at_5": 0.70383, - "mrr_at_10": 0.71177, - "mrr_at_50": 0.71555, - "mrr_at_100": 0.71585, - "mrr_at_1000": 0.71585 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.62634, - "ndcg_at_3": 0.57013, - "ndcg_at_5": 0.58575, - "ndcg_at_10": 0.62532, - "ndcg_at_50": 0.67821, - "ndcg_at_100": 0.68498, - "ndcg_at_1000": 0.68498, - "map_at_1": 0.33334, - "map_at_3": 0.46793, - "map_at_5": 0.50642, - "map_at_10": 0.53413, - "map_at_50": 0.5576, - "map_at_100": 0.55877, - "map_at_1000": 0.55877, - "recall_at_1": 0.33334, - "recall_at_3": 0.51638, - "recall_at_5": 0.59956, - "recall_at_10": 0.69005, - "recall_at_50": 0.84272, - "recall_at_100": 0.87289, - "recall_at_1000": 0.87289, - "precision_at_1": 0.62634, - "precision_at_3": 0.37724, - "precision_at_5": 0.27849, - "precision_at_10": 0.17124, - "precision_at_50": 0.04532, - "precision_at_100": 0.02352, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.62634, - "mrr_at_3": 0.69668, - "mrr_at_5": 0.71147, - "mrr_at_10": 0.71757, - "mrr_at_50": 0.72082, - "mrr_at_100": 0.72104, - "mrr_at_1000": 0.72104 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.41257, - "ndcg_at_3": 0.38042, - "ndcg_at_5": 0.40282, - "ndcg_at_10": 0.45881, - "ndcg_at_50": 0.55513, - "ndcg_at_100": 0.57033, - "ndcg_at_1000": 0.57033, - "map_at_1": 0.17542, - "map_at_3": 0.26711, - "map_at_5": 0.31127, - "map_at_10": 0.35466, - "map_at_50": 0.39317, - "map_at_100": 0.39572, - "map_at_1000": 0.39572, - "recall_at_1": 0.17542, - "recall_at_3": 0.31961, - "recall_at_5": 0.42063, - "recall_at_10": 0.55363, - "recall_at_50": 0.85478, - "recall_at_100": 0.9257, - "recall_at_1000": 0.9257, - "precision_at_1": 0.41257, - "precision_at_3": 0.28962, - "precision_at_5": 0.24044, - "precision_at_10": 0.17322, - "precision_at_50": 0.05432, - "precision_at_100": 0.02902, - "precision_at_1000": 0.0029, - "mrr_at_1": 0.41257, - "mrr_at_3": 0.49772, - "mrr_at_5": 0.51808, - "mrr_at_10": 0.52997, - "mrr_at_50": 0.53893, - "mrr_at_100": 0.53945, - "mrr_at_1000": 0.53945 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.47027, - "ndcg_at_3": 0.48873, - "ndcg_at_5": 0.5244, - "ndcg_at_10": 0.5782, - "ndcg_at_50": 0.64673, - "ndcg_at_100": 0.65391, - "ndcg_at_1000": 0.65391, - "map_at_1": 0.26006, - "map_at_3": 0.39682, - "map_at_5": 0.44306, - "map_at_10": 0.47931, - "map_at_50": 0.50674, - "map_at_100": 0.50785, - "map_at_1000": 0.50785, - "recall_at_1": 0.26006, - "recall_at_3": 0.48449, - "recall_at_5": 0.58782, - "recall_at_10": 0.71873, - "recall_at_50": 0.94482, - "recall_at_100": 0.98063, - "recall_at_1000": 0.98063, - "precision_at_1": 0.47027, - "precision_at_3": 0.32883, - "precision_at_5": 0.25676, - "precision_at_10": 0.16568, - "precision_at_50": 0.04497, - "precision_at_100": 0.02324, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.47027, - "mrr_at_3": 0.57523, - "mrr_at_5": 0.59144, - "mrr_at_10": 0.60431, - "mrr_at_50": 0.60996, - "mrr_at_100": 0.61024, - "mrr_at_1000": 0.61024 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.37423, - "ndcg_at_3": 0.4162, - "ndcg_at_5": 0.45624, - "ndcg_at_10": 0.51163, - "ndcg_at_50": 0.57582, - "ndcg_at_100": 0.58638, - "ndcg_at_1000": 0.58638, - "map_at_1": 0.23507, - "map_at_3": 0.35101, - "map_at_5": 0.38838, - "map_at_10": 0.42104, - "map_at_50": 0.44409, - "map_at_100": 0.44527, - "map_at_1000": 0.44527, - "recall_at_1": 0.23507, - "recall_at_3": 0.43444, - "recall_at_5": 0.53173, - "recall_at_10": 0.67169, - "recall_at_50": 0.89842, - "recall_at_100": 0.95706, - "recall_at_1000": 0.95706, - "precision_at_1": 0.37423, - "precision_at_3": 0.25869, - "precision_at_5": 0.20184, - "precision_at_10": 0.13221, - "precision_at_50": 0.03577, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.37423, - "mrr_at_3": 0.47546, - "mrr_at_5": 0.49525, - "mrr_at_10": 0.50835, - "mrr_at_50": 0.51698, - "mrr_at_100": 0.51769, - "mrr_at_1000": 0.51769 - }, - "gpt3": { - "ndcg_at_1": 0.34125, - "ndcg_at_3": 0.41062, - "ndcg_at_5": 0.46208, - "ndcg_at_10": 0.50327, - "ndcg_at_50": 0.56137, - "ndcg_at_100": 0.57131, - "ndcg_at_1000": 0.57131, - "map_at_1": 0.27448, - "map_at_3": 0.36622, - "map_at_5": 0.39816, - "map_at_10": 0.41928, - "map_at_50": 0.43549, - "map_at_100": 0.4367, - "map_at_1000": 0.4367, - "recall_at_1": 0.27448, - "recall_at_3": 0.46464, - "recall_at_5": 0.57839, - "recall_at_10": 0.68867, - "recall_at_50": 0.9184, - "recall_at_100": 0.97354, - "recall_at_1000": 0.97354, - "precision_at_1": 0.34125, - "precision_at_3": 0.20574, - "precision_at_5": 0.15905, - "precision_at_10": 0.09792, - "precision_at_50": 0.027, - "precision_at_100": 0.0143, - "precision_at_1000": 0.00143, - "mrr_at_1": 0.34125, - "mrr_at_3": 0.44016, - "mrr_at_5": 0.46672, - "mrr_at_10": 0.47916, - "mrr_at_50": 0.48764, - "mrr_at_100": 0.48816, - "mrr_at_1000": 0.48816 - }, - "llm-survey": { - "ndcg_at_1": 0.38095, - "ndcg_at_3": 0.38534, - "ndcg_at_5": 0.41829, - "ndcg_at_10": 0.46896, - "ndcg_at_50": 0.54494, - "ndcg_at_100": 0.5602, - "ndcg_at_1000": 0.5602, - "map_at_1": 0.18923, - "map_at_3": 0.2937, - "map_at_5": 0.33658, - "map_at_10": 0.37362, - "map_at_50": 0.40268, - "map_at_100": 0.40463, - "map_at_1000": 0.40463, - "recall_at_1": 0.18923, - "recall_at_3": 0.35217, - "recall_at_5": 0.45276, - "recall_at_10": 0.57856, - "recall_at_50": 0.83536, - "recall_at_100": 0.91496, - "recall_at_1000": 0.91496, - "precision_at_1": 0.38095, - "precision_at_3": 0.28105, - "precision_at_5": 0.22857, - "precision_at_10": 0.15546, - "precision_at_50": 0.04482, - "precision_at_100": 0.02389, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.38095, - "mrr_at_3": 0.47666, - "mrr_at_5": 0.49935, - "mrr_at_10": 0.50826, - "mrr_at_50": 0.51576, - "mrr_at_100": 0.51658, - "mrr_at_1000": 0.51658 - }, - "gemini": { - "ndcg_at_1": 0.40161, - "ndcg_at_3": 0.51683, - "ndcg_at_5": 0.55312, - "ndcg_at_10": 0.58341, - "ndcg_at_50": 0.6162, - "ndcg_at_100": 0.62417, - "ndcg_at_1000": 0.62417, - "map_at_1": 0.40161, - "map_at_3": 0.48862, - "map_at_5": 0.5087, - "map_at_10": 0.52145, - "map_at_50": 0.52897, - "map_at_100": 0.52971, - "map_at_1000": 0.52971, - "recall_at_1": 0.40161, - "recall_at_3": 0.59839, - "recall_at_5": 0.68675, - "recall_at_10": 0.77912, - "recall_at_50": 0.92369, - "recall_at_100": 0.97189, - "recall_at_1000": 0.97189, - "precision_at_1": 0.40161, - "precision_at_3": 0.19946, - "precision_at_5": 0.13735, - "precision_at_10": 0.07791, - "precision_at_50": 0.01847, - "precision_at_100": 0.00972, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.40161, - "mrr_at_3": 0.48862, - "mrr_at_5": 0.5087, - "mrr_at_10": 0.52145, - "mrr_at_50": 0.52895, - "mrr_at_100": 0.52969, - "mrr_at_1000": 0.52969 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.17451, - "ndcg_at_3": 0.18112, - "ndcg_at_5": 0.19927, - "ndcg_at_10": 0.23354, - "ndcg_at_50": 0.31788, - "ndcg_at_100": 0.3545, - "ndcg_at_1000": 0.3545, - "map_at_1": 0.09378, - "map_at_3": 0.13531, - "map_at_5": 0.15092, - "map_at_10": 0.16795, - "map_at_50": 0.19046, - "map_at_100": 0.19567, - "map_at_1000": 0.19567, - "recall_at_1": 0.09378, - "recall_at_3": 0.17811, - "recall_at_5": 0.23099, - "recall_at_10": 0.31829, - "recall_at_50": 0.60298, - "recall_at_100": 0.7699, - "recall_at_1000": 0.7699, - "precision_at_1": 0.17451, - "precision_at_3": 0.1211, - "precision_at_5": 0.09887, - "precision_at_10": 0.07266, - "precision_at_50": 0.03139, - "precision_at_100": 0.02059, - "precision_at_1000": 0.00206, - "mrr_at_1": 0.1751, - "mrr_at_3": 0.23764, - "mrr_at_5": 0.2553, - "mrr_at_10": 0.27103, - "mrr_at_50": 0.28587, - "mrr_at_100": 0.28745, - "mrr_at_1000": 0.28745 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.6132, - "ndcg_at_3": 0.57358, - "ndcg_at_5": 0.58876, - "ndcg_at_10": 0.61631, - "ndcg_at_50": 0.64761, - "ndcg_at_100": 0.65312, - "ndcg_at_1000": 0.65312, - "map_at_1": 0.3658, - "map_at_3": 0.47959, - "map_at_5": 0.51287, - "map_at_10": 0.53714, - "map_at_50": 0.55015, - "map_at_100": 0.551, - "map_at_1000": 0.551, - "recall_at_1": 0.3658, - "recall_at_3": 0.5317, - "recall_at_5": 0.60295, - "recall_at_10": 0.67622, - "recall_at_50": 0.77341, - "recall_at_100": 0.80011, - "recall_at_1000": 0.80011, - "precision_at_1": 0.6132, - "precision_at_3": 0.35321, - "precision_at_5": 0.25594, - "precision_at_10": 0.15327, - "precision_at_50": 0.03702, - "precision_at_100": 0.01917, - "precision_at_1000": 0.00192, - "mrr_at_1": 0.61378, - "mrr_at_3": 0.68211, - "mrr_at_5": 0.69204, - "mrr_at_10": 0.69645, - "mrr_at_50": 0.69928, - "mrr_at_100": 0.69945, - "mrr_at_1000": 0.69945 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.45284, - "ndcg_at_3": 0.44305, - "ndcg_at_5": 0.44527, - "ndcg_at_10": 0.47544, - "ndcg_at_50": 0.5333, - "ndcg_at_100": 0.53994, - "ndcg_at_1000": 0.53994, - "map_at_1": 0.22149, - "map_at_3": 0.31747, - "map_at_5": 0.34947, - "map_at_10": 0.38206, - "map_at_50": 0.40801, - "map_at_100": 0.40927, - "map_at_1000": 0.40927, - "recall_at_1": 0.22149, - "recall_at_3": 0.38039, - "recall_at_5": 0.4473, - "recall_at_10": 0.54003, - "recall_at_50": 0.70472, - "recall_at_100": 0.73259, - "recall_at_1000": 0.73259, - "precision_at_1": 0.45284, - "precision_at_3": 0.3099, - "precision_at_5": 0.23866, - "precision_at_10": 0.16128, - "precision_at_50": 0.04579, - "precision_at_100": 0.02388, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.45284, - "mrr_at_3": 0.54677, - "mrr_at_5": 0.55933, - "mrr_at_10": 0.56859, - "mrr_at_50": 0.57315, - "mrr_at_100": 0.57333, - "mrr_at_1000": 0.57333 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.3815, - "ndcg_at_3": 0.36238, - "ndcg_at_5": 0.36654, - "ndcg_at_10": 0.42384, - "ndcg_at_50": 0.53335, - "ndcg_at_100": 0.55364, - "ndcg_at_1000": 0.55364, - "map_at_1": 0.12765, - "map_at_3": 0.22308, - "map_at_5": 0.26153, - "map_at_10": 0.31379, - "map_at_50": 0.36134, - "map_at_100": 0.36497, - "map_at_1000": 0.36497, - "recall_at_1": 0.12765, - "recall_at_3": 0.2701, - "recall_at_5": 0.34903, - "recall_at_10": 0.50643, - "recall_at_50": 0.82024, - "recall_at_100": 0.90958, - "recall_at_1000": 0.90958, - "precision_at_1": 0.3815, - "precision_at_3": 0.31021, - "precision_at_5": 0.25491, - "precision_at_10": 0.19046, - "precision_at_50": 0.06474, - "precision_at_100": 0.0352, - "precision_at_1000": 0.00352, - "mrr_at_1": 0.3815, - "mrr_at_3": 0.4764, - "mrr_at_5": 0.49475, - "mrr_at_10": 0.50761, - "mrr_at_50": 0.51645, - "mrr_at_100": 0.51711, - "mrr_at_1000": 0.51711 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.42042, - "ndcg_at_3": 0.3828, - "ndcg_at_5": 0.37777, - "ndcg_at_10": 0.41875, - "ndcg_at_50": 0.53747, - "ndcg_at_100": 0.55788, - "ndcg_at_1000": 0.55788, - "map_at_1": 0.10683, - "map_at_3": 0.20787, - "map_at_5": 0.25214, - "map_at_10": 0.303, - "map_at_50": 0.35624, - "map_at_100": 0.36098, - "map_at_1000": 0.36098, - "recall_at_1": 0.10683, - "recall_at_3": 0.25434, - "recall_at_5": 0.34607, - "recall_at_10": 0.4803, - "recall_at_50": 0.8164, - "recall_at_100": 0.89201, - "recall_at_1000": 0.89201, - "precision_at_1": 0.42042, - "precision_at_3": 0.34434, - "precision_at_5": 0.28589, - "precision_at_10": 0.20631, - "precision_at_50": 0.07069, - "precision_at_100": 0.03907, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.42042, - "mrr_at_3": 0.50701, - "mrr_at_5": 0.52427, - "mrr_at_10": 0.53835, - "mrr_at_50": 0.54748, - "mrr_at_100": 0.54763, - "mrr_at_1000": 0.54763 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.45858, - "ndcg_at_3": 0.41497, - "ndcg_at_5": 0.41471, - "ndcg_at_10": 0.45369, - "ndcg_at_50": 0.56172, - "ndcg_at_100": 0.57765, - "ndcg_at_1000": 0.57765, - "map_at_1": 0.12773, - "map_at_3": 0.23607, - "map_at_5": 0.28801, - "map_at_10": 0.34241, - "map_at_50": 0.39355, - "map_at_100": 0.39674, - "map_at_1000": 0.39674, - "recall_at_1": 0.12773, - "recall_at_3": 0.27799, - "recall_at_5": 0.37389, - "recall_at_10": 0.5118, - "recall_at_50": 0.81323, - "recall_at_100": 0.88033, - "recall_at_1000": 0.88033, - "precision_at_1": 0.45858, - "precision_at_3": 0.36095, - "precision_at_5": 0.30769, - "precision_at_10": 0.22101, - "precision_at_50": 0.07178, - "precision_at_100": 0.03831, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.45858, - "mrr_at_3": 0.53748, - "mrr_at_5": 0.55641, - "mrr_at_10": 0.568, - "mrr_at_50": 0.57504, - "mrr_at_100": 0.57544, - "mrr_at_1000": 0.57544 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.50737, - "ndcg_at_3": 0.43118, - "ndcg_at_5": 0.44321, - "ndcg_at_10": 0.49566, - "ndcg_at_50": 0.60148, - "ndcg_at_100": 0.62178, - "ndcg_at_1000": 0.62178, - "map_at_1": 0.15636, - "map_at_3": 0.27152, - "map_at_5": 0.32269, - "map_at_10": 0.37733, - "map_at_50": 0.42573, - "map_at_100": 0.42959, - "map_at_1000": 0.42959, - "recall_at_1": 0.15636, - "recall_at_3": 0.30953, - "recall_at_5": 0.41866, - "recall_at_10": 0.56677, - "recall_at_50": 0.87238, - "recall_at_100": 0.96004, - "recall_at_1000": 0.96004, - "precision_at_1": 0.50737, - "precision_at_3": 0.36283, - "precision_at_5": 0.30678, - "precision_at_10": 0.2177, - "precision_at_50": 0.06844, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.51032, - "mrr_at_3": 0.58309, - "mrr_at_5": 0.60477, - "mrr_at_10": 0.61516, - "mrr_at_50": 0.62143, - "mrr_at_100": 0.62201, - "mrr_at_1000": 0.62201 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.68207, - "ndcg_at_3": 0.61782, - "ndcg_at_5": 0.61235, - "ndcg_at_10": 0.65959, - "ndcg_at_50": 0.74637, - "ndcg_at_100": 0.75398, - "ndcg_at_1000": 0.75398, - "map_at_1": 0.24642, - "map_at_3": 0.40881, - "map_at_5": 0.47888, - "map_at_10": 0.5444, - "map_at_50": 0.5933, - "map_at_100": 0.595, - "map_at_1000": 0.595, - "recall_at_1": 0.24642, - "recall_at_3": 0.44989, - "recall_at_5": 0.56825, - "recall_at_10": 0.71425, - "recall_at_50": 0.94461, - "recall_at_100": 0.97468, - "recall_at_1000": 0.97468, - "precision_at_1": 0.68207, - "precision_at_3": 0.50543, - "precision_at_5": 0.4038, - "precision_at_10": 0.27418, - "precision_at_50": 0.07636, - "precision_at_100": 0.0394, - "precision_at_1000": 0.00394, - "mrr_at_1": 0.68207, - "mrr_at_3": 0.76268, - "mrr_at_5": 0.77369, - "mrr_at_10": 0.77833, - "mrr_at_50": 0.78126, - "mrr_at_100": 0.78134, - "mrr_at_1000": 0.78134 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.4881, - "ndcg_at_3": 0.47658, - "ndcg_at_5": 0.49156, - "ndcg_at_10": 0.53265, - "ndcg_at_50": 0.60541, - "ndcg_at_100": 0.61772, - "ndcg_at_1000": 0.61772, - "map_at_1": 0.21868, - "map_at_3": 0.35698, - "map_at_5": 0.40283, - "map_at_10": 0.4402, - "map_at_50": 0.47194, - "map_at_100": 0.4743, - "map_at_1000": 0.4743, - "recall_at_1": 0.21868, - "recall_at_3": 0.41278, - "recall_at_5": 0.50544, - "recall_at_10": 0.61394, - "recall_at_50": 0.83422, - "recall_at_100": 0.88582, - "recall_at_1000": 0.88582, - "precision_at_1": 0.4881, - "precision_at_3": 0.3631, - "precision_at_5": 0.28452, - "precision_at_10": 0.18601, - "precision_at_50": 0.05286, - "precision_at_100": 0.02824, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.4881, - "mrr_at_3": 0.56994, - "mrr_at_5": 0.58512, - "mrr_at_10": 0.59454, - "mrr_at_50": 0.60011, - "mrr_at_100": 0.60045, - "mrr_at_1000": 0.60045 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.55775, - "ndcg_at_3": 0.53809, - "ndcg_at_5": 0.55551, - "ndcg_at_10": 0.60712, - "ndcg_at_50": 0.67532, - "ndcg_at_100": 0.68298, - "ndcg_at_1000": 0.68298, - "map_at_1": 0.26572, - "map_at_3": 0.42023, - "map_at_5": 0.46422, - "map_at_10": 0.50572, - "map_at_50": 0.5345, - "map_at_100": 0.53572, - "map_at_1000": 0.53572, - "recall_at_1": 0.26572, - "recall_at_3": 0.49219, - "recall_at_5": 0.58007, - "recall_at_10": 0.70564, - "recall_at_50": 0.91688, - "recall_at_100": 0.95276, - "recall_at_1000": 0.95276, - "precision_at_1": 0.55775, - "precision_at_3": 0.39061, - "precision_at_5": 0.29352, - "precision_at_10": 0.18704, - "precision_at_50": 0.05042, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.55775, - "mrr_at_3": 0.65822, - "mrr_at_5": 0.66962, - "mrr_at_10": 0.67566, - "mrr_at_50": 0.68174, - "mrr_at_100": 0.68198, - "mrr_at_1000": 0.68198 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.53221, - "ndcg_at_3": 0.50715, - "ndcg_at_5": 0.52224, - "ndcg_at_10": 0.57367, - "ndcg_at_50": 0.64492, - "ndcg_at_100": 0.6538, - "ndcg_at_1000": 0.6538, - "map_at_1": 0.25945, - "map_at_3": 0.39962, - "map_at_5": 0.43424, - "map_at_10": 0.47078, - "map_at_50": 0.5008, - "map_at_100": 0.50213, - "map_at_1000": 0.50213, - "recall_at_1": 0.25945, - "recall_at_3": 0.4621, - "recall_at_5": 0.54425, - "recall_at_10": 0.66412, - "recall_at_50": 0.888, - "recall_at_100": 0.93127, - "recall_at_1000": 0.93127, - "precision_at_1": 0.53221, - "precision_at_3": 0.36134, - "precision_at_5": 0.26387, - "precision_at_10": 0.17171, - "precision_at_50": 0.04824, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.53221, - "mrr_at_3": 0.62979, - "mrr_at_5": 0.64351, - "mrr_at_10": 0.65302, - "mrr_at_50": 0.65832, - "mrr_at_100": 0.65856, - "mrr_at_1000": 0.65856 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.52151, - "ndcg_at_3": 0.49647, - "ndcg_at_5": 0.51065, - "ndcg_at_10": 0.55339, - "ndcg_at_50": 0.62217, - "ndcg_at_100": 0.63025, - "ndcg_at_1000": 0.63025, - "map_at_1": 0.28683, - "map_at_3": 0.40247, - "map_at_5": 0.43533, - "map_at_10": 0.46274, - "map_at_50": 0.48961, - "map_at_100": 0.49096, - "map_at_1000": 0.49096, - "recall_at_1": 0.28683, - "recall_at_3": 0.45914, - "recall_at_5": 0.53425, - "recall_at_10": 0.6293, - "recall_at_50": 0.83723, - "recall_at_100": 0.87289, - "recall_at_1000": 0.87289, - "precision_at_1": 0.52151, - "precision_at_3": 0.32616, - "precision_at_5": 0.23978, - "precision_at_10": 0.1543, - "precision_at_50": 0.04484, - "precision_at_100": 0.02352, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.52151, - "mrr_at_3": 0.60977, - "mrr_at_5": 0.62065, - "mrr_at_10": 0.63143, - "mrr_at_50": 0.63796, - "mrr_at_100": 0.63816, - "mrr_at_1000": 0.63816 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.42896, - "ndcg_at_3": 0.39093, - "ndcg_at_5": 0.40494, - "ndcg_at_10": 0.45881, - "ndcg_at_50": 0.55653, - "ndcg_at_100": 0.57252, - "ndcg_at_1000": 0.57252, - "map_at_1": 0.1754, - "map_at_3": 0.27752, - "map_at_5": 0.31352, - "map_at_10": 0.35394, - "map_at_50": 0.39386, - "map_at_100": 0.39659, - "map_at_1000": 0.39659, - "recall_at_1": 0.1754, - "recall_at_3": 0.3326, - "recall_at_5": 0.41593, - "recall_at_10": 0.54918, - "recall_at_50": 0.85141, - "recall_at_100": 0.9257, - "recall_at_1000": 0.9257, - "precision_at_1": 0.42896, - "precision_at_3": 0.30055, - "precision_at_5": 0.23989, - "precision_at_10": 0.16831, - "precision_at_50": 0.05399, - "precision_at_100": 0.02902, - "precision_at_1000": 0.0029, - "mrr_at_1": 0.42896, - "mrr_at_3": 0.51184, - "mrr_at_5": 0.52851, - "mrr_at_10": 0.54083, - "mrr_at_50": 0.54894, - "mrr_at_100": 0.54939, - "mrr_at_1000": 0.54939 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.45946, - "ndcg_at_3": 0.47297, - "ndcg_at_5": 0.50102, - "ndcg_at_10": 0.56617, - "ndcg_at_50": 0.63102, - "ndcg_at_100": 0.64012, - "ndcg_at_1000": 0.64012, - "map_at_1": 0.24727, - "map_at_3": 0.37659, - "map_at_5": 0.41636, - "map_at_10": 0.45908, - "map_at_50": 0.48608, - "map_at_100": 0.48749, - "map_at_1000": 0.48749, - "recall_at_1": 0.24727, - "recall_at_3": 0.46224, - "recall_at_5": 0.55782, - "recall_at_10": 0.71886, - "recall_at_50": 0.9359, - "recall_at_100": 0.98063, - "recall_at_1000": 0.98063, - "precision_at_1": 0.45946, - "precision_at_3": 0.32252, - "precision_at_5": 0.24432, - "precision_at_10": 0.16486, - "precision_at_50": 0.04449, - "precision_at_100": 0.02324, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.45946, - "mrr_at_3": 0.56667, - "mrr_at_5": 0.58221, - "mrr_at_10": 0.59739, - "mrr_at_50": 0.60093, - "mrr_at_100": 0.60121, - "mrr_at_1000": 0.60121 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.31288, - "ndcg_at_3": 0.34784, - "ndcg_at_5": 0.39103, - "ndcg_at_10": 0.45891, - "ndcg_at_50": 0.52435, - "ndcg_at_100": 0.53659, - "ndcg_at_1000": 0.53659, - "map_at_1": 0.1828, - "map_at_3": 0.28162, - "map_at_5": 0.31866, - "map_at_10": 0.35779, - "map_at_50": 0.37856, - "map_at_100": 0.38023, - "map_at_1000": 0.38023, - "recall_at_1": 0.1828, - "recall_at_3": 0.36918, - "recall_at_5": 0.47785, - "recall_at_10": 0.65178, - "recall_at_50": 0.893, - "recall_at_100": 0.95706, - "recall_at_1000": 0.95706, - "precision_at_1": 0.31288, - "precision_at_3": 0.22495, - "precision_at_5": 0.17975, - "precision_at_10": 0.12761, - "precision_at_50": 0.03521, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.31595, - "mrr_at_3": 0.41258, - "mrr_at_5": 0.4339, - "mrr_at_10": 0.4515, - "mrr_at_50": 0.46028, - "mrr_at_100": 0.46087, - "mrr_at_1000": 0.46087 - }, - "gpt3": { - "ndcg_at_1": 0.24332, - "ndcg_at_3": 0.33942, - "ndcg_at_5": 0.39514, - "ndcg_at_10": 0.44004, - "ndcg_at_50": 0.50257, - "ndcg_at_100": 0.51665, - "ndcg_at_1000": 0.51665, - "map_at_1": 0.19857, - "map_at_3": 0.29768, - "map_at_5": 0.33108, - "map_at_10": 0.35265, - "map_at_50": 0.37032, - "map_at_100": 0.37199, - "map_at_1000": 0.37199, - "recall_at_1": 0.19857, - "recall_at_3": 0.40628, - "recall_at_5": 0.5277, - "recall_at_10": 0.64862, - "recall_at_50": 0.89664, - "recall_at_100": 0.97354, - "recall_at_1000": 0.97354, - "precision_at_1": 0.24332, - "precision_at_3": 0.17804, - "precision_at_5": 0.14481, - "precision_at_10": 0.09228, - "precision_at_50": 0.02635, - "precision_at_100": 0.0143, - "precision_at_1000": 0.00143, - "mrr_at_1": 0.24332, - "mrr_at_3": 0.34866, - "mrr_at_5": 0.37997, - "mrr_at_10": 0.39598, - "mrr_at_50": 0.40584, - "mrr_at_100": 0.4067, - "mrr_at_1000": 0.4067 - }, - "llm-survey": { - "ndcg_at_1": 0.32493, - "ndcg_at_3": 0.31533, - "ndcg_at_5": 0.3449, - "ndcg_at_10": 0.398, - "ndcg_at_50": 0.48523, - "ndcg_at_100": 0.50626, - "ndcg_at_1000": 0.50626, - "map_at_1": 0.14864, - "map_at_3": 0.23342, - "map_at_5": 0.26794, - "map_at_10": 0.30265, - "map_at_50": 0.33324, - "map_at_100": 0.33615, - "map_at_1000": 0.33615, - "recall_at_1": 0.14864, - "recall_at_3": 0.28874, - "recall_at_5": 0.37734, - "recall_at_10": 0.51279, - "recall_at_50": 0.80817, - "recall_at_100": 0.91496, - "recall_at_1000": 0.91496, - "precision_at_1": 0.32493, - "precision_at_3": 0.23436, - "precision_at_5": 0.19272, - "precision_at_10": 0.13585, - "precision_at_50": 0.04342, - "precision_at_100": 0.02389, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.32493, - "mrr_at_3": 0.40616, - "mrr_at_5": 0.42927, - "mrr_at_10": 0.44367, - "mrr_at_50": 0.45288, - "mrr_at_100": 0.45383, - "mrr_at_1000": 0.45383 - }, - "gemini": { - "ndcg_at_1": 0.26506, - "ndcg_at_3": 0.39486, - "ndcg_at_5": 0.44549, - "ndcg_at_10": 0.46781, - "ndcg_at_50": 0.52271, - "ndcg_at_100": 0.52935, - "ndcg_at_1000": 0.52935, - "map_at_1": 0.26506, - "map_at_3": 0.36212, - "map_at_5": 0.38983, - "map_at_10": 0.39917, - "map_at_50": 0.41083, - "map_at_100": 0.41145, - "map_at_1000": 0.41145, - "recall_at_1": 0.26506, - "recall_at_3": 0.48996, - "recall_at_5": 0.61446, - "recall_at_10": 0.68273, - "recall_at_50": 0.93173, - "recall_at_100": 0.97189, - "recall_at_1000": 0.97189, - "precision_at_1": 0.26506, - "precision_at_3": 0.16332, - "precision_at_5": 0.12289, - "precision_at_10": 0.06827, - "precision_at_50": 0.01863, - "precision_at_100": 0.00972, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.26506, - "mrr_at_3": 0.36145, - "mrr_at_5": 0.38936, - "mrr_at_10": 0.3987, - "mrr_at_50": 0.41036, - "mrr_at_100": 0.41098, - "mrr_at_1000": 0.41098 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.76891, - "ndcg_at_3": 0.67661, - "ndcg_at_5": 0.67915, - "ndcg_at_10": 0.70166, - "ndcg_at_50": 0.71718, - "ndcg_at_100": 0.71734, - "ndcg_at_1000": 0.71734, - "map_at_1": 0.39869, - "map_at_3": 0.54355, - "map_at_5": 0.58717, - "map_at_10": 0.61545, - "map_at_50": 0.62456, - "map_at_100": 0.6246, - "map_at_1000": 0.6246, - "recall_at_1": 0.39869, - "recall_at_3": 0.58717, - "recall_at_5": 0.66289, - "recall_at_10": 0.72829, - "recall_at_50": 0.76931, - "recall_at_100": 0.7699, - "recall_at_1000": 0.7699, - "precision_at_1": 0.76891, - "precision_at_3": 0.44947, - "precision_at_5": 0.32341, - "precision_at_10": 0.1888, - "precision_at_50": 0.04113, - "precision_at_100": 0.02059, - "precision_at_1000": 0.00206, - "mrr_at_1": 0.76951, - "mrr_at_3": 0.82261, - "mrr_at_5": 0.82759, - "mrr_at_10": 0.82926, - "mrr_at_50": 0.82964, - "mrr_at_100": 0.82964, - "mrr_at_1000": 0.82964 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.74928, - "ndcg_at_3": 0.68676, - "ndcg_at_5": 0.6932, - "ndcg_at_10": 0.71398, - "ndcg_at_50": 0.73009, - "ndcg_at_100": 0.7312, - "ndcg_at_1000": 0.7312, - "map_at_1": 0.43678, - "map_at_3": 0.58487, - "map_at_5": 0.62254, - "map_at_10": 0.64616, - "map_at_50": 0.65433, - "map_at_100": 0.6545, - "map_at_1000": 0.6545, - "recall_at_1": 0.43678, - "recall_at_3": 0.62375, - "recall_at_5": 0.68728, - "recall_at_10": 0.74643, - "recall_at_50": 0.79493, - "recall_at_100": 0.80011, - "recall_at_1000": 0.80011, - "precision_at_1": 0.74928, - "precision_at_3": 0.43003, - "precision_at_5": 0.30376, - "precision_at_10": 0.17435, - "precision_at_50": 0.03808, - "precision_at_100": 0.01917, - "precision_at_1000": 0.00192, - "mrr_at_1": 0.74928, - "mrr_at_3": 0.79367, - "mrr_at_5": 0.79801, - "mrr_at_10": 0.8009, - "mrr_at_50": 0.80187, - "mrr_at_100": 0.80192, - "mrr_at_1000": 0.80192 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.58289, - "ndcg_at_3": 0.54413, - "ndcg_at_5": 0.5404, - "ndcg_at_10": 0.56851, - "ndcg_at_50": 0.60839, - "ndcg_at_100": 0.61145, - "ndcg_at_1000": 0.61145, - "map_at_1": 0.22391, - "map_at_3": 0.36516, - "map_at_5": 0.41749, - "map_at_10": 0.46593, - "map_at_50": 0.48807, - "map_at_100": 0.48873, - "map_at_1000": 0.48873, - "recall_at_1": 0.22391, - "recall_at_3": 0.41443, - "recall_at_5": 0.50582, - "recall_at_10": 0.61545, - "recall_at_50": 0.72105, - "recall_at_100": 0.73342, - "recall_at_1000": 0.73342, - "precision_at_1": 0.58289, - "precision_at_3": 0.43177, - "precision_at_5": 0.34094, - "precision_at_10": 0.22484, - "precision_at_50": 0.05518, - "precision_at_100": 0.02807, - "precision_at_1000": 0.00281, - "mrr_at_1": 0.58289, - "mrr_at_3": 0.66766, - "mrr_at_5": 0.6777, - "mrr_at_10": 0.68291, - "mrr_at_50": 0.68493, - "mrr_at_100": 0.685, - "mrr_at_1000": 0.685 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.57586, - "ndcg_at_3": 0.54251, - "ndcg_at_5": 0.54453, - "ndcg_at_10": 0.57095, - "ndcg_at_50": 0.60623, - "ndcg_at_100": 0.6092, - "ndcg_at_1000": 0.6092, - "map_at_1": 0.27768, - "map_at_3": 0.39468, - "map_at_5": 0.43928, - "map_at_10": 0.47868, - "map_at_50": 0.49737, - "map_at_100": 0.4979, - "map_at_1000": 0.4979, - "recall_at_1": 0.27768, - "recall_at_3": 0.44865, - "recall_at_5": 0.52956, - "recall_at_10": 0.62333, - "recall_at_50": 0.71955, - "recall_at_100": 0.73259, - "recall_at_1000": 0.73259, - "precision_at_1": 0.57586, - "precision_at_3": 0.38293, - "precision_at_5": 0.29865, - "precision_at_10": 0.19303, - "precision_at_50": 0.04691, - "precision_at_100": 0.02388, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.57645, - "mrr_at_3": 0.65622, - "mrr_at_5": 0.66618, - "mrr_at_10": 0.67109, - "mrr_at_50": 0.67359, - "mrr_at_100": 0.67366, - "mrr_at_1000": 0.67366 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.64162, - "ndcg_at_3": 0.60382, - "ndcg_at_5": 0.60424, - "ndcg_at_10": 0.64905, - "ndcg_at_50": 0.71126, - "ndcg_at_100": 0.71559, - "ndcg_at_1000": 0.71559, - "map_at_1": 0.20611, - "map_at_3": 0.39661, - "map_at_5": 0.47244, - "map_at_10": 0.54012, - "map_at_50": 0.57369, - "map_at_100": 0.57459, - "map_at_1000": 0.57459, - "recall_at_1": 0.20611, - "recall_at_3": 0.45025, - "recall_at_5": 0.57156, - "recall_at_10": 0.71328, - "recall_at_50": 0.89048, - "recall_at_100": 0.90958, - "recall_at_1000": 0.90958, - "precision_at_1": 0.64162, - "precision_at_3": 0.51541, - "precision_at_5": 0.41792, - "precision_at_10": 0.27572, - "precision_at_50": 0.06919, - "precision_at_100": 0.0352, - "precision_at_1000": 0.00352, - "mrr_at_1": 0.64162, - "mrr_at_3": 0.73748, - "mrr_at_5": 0.74427, - "mrr_at_10": 0.7481, - "mrr_at_50": 0.75126, - "mrr_at_100": 0.75133, - "mrr_at_1000": 0.75133 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.67868, - "ndcg_at_3": 0.61843, - "ndcg_at_5": 0.60578, - "ndcg_at_10": 0.65252, - "ndcg_at_50": 0.71761, - "ndcg_at_100": 0.72102, - "ndcg_at_1000": 0.72102, - "map_at_1": 0.20458, - "map_at_3": 0.37538, - "map_at_5": 0.45582, - "map_at_10": 0.54186, - "map_at_50": 0.58041, - "map_at_100": 0.58101, - "map_at_1000": 0.58101, - "recall_at_1": 0.20458, - "recall_at_3": 0.41307, - "recall_at_5": 0.53309, - "recall_at_10": 0.70064, - "recall_at_50": 0.87637, - "recall_at_100": 0.89201, - "recall_at_1000": 0.89201, - "precision_at_1": 0.67868, - "precision_at_3": 0.53854, - "precision_at_5": 0.44324, - "precision_at_10": 0.30811, - "precision_at_50": 0.0773, - "precision_at_100": 0.03907, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.68168, - "mrr_at_3": 0.75726, - "mrr_at_5": 0.76582, - "mrr_at_10": 0.77004, - "mrr_at_50": 0.77245, - "mrr_at_100": 0.77258, - "mrr_at_1000": 0.77258 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71302, - "ndcg_at_3": 0.64987, - "ndcg_at_5": 0.64073, - "ndcg_at_10": 0.68047, - "ndcg_at_50": 0.73255, - "ndcg_at_100": 0.73574, - "ndcg_at_1000": 0.73574, - "map_at_1": 0.22238, - "map_at_3": 0.40547, - "map_at_5": 0.49014, - "map_at_10": 0.57678, - "map_at_50": 0.60876, - "map_at_100": 0.60932, - "map_at_1000": 0.60932, - "recall_at_1": 0.22238, - "recall_at_3": 0.44232, - "recall_at_5": 0.56262, - "recall_at_10": 0.72513, - "recall_at_50": 0.86568, - "recall_at_100": 0.88033, - "recall_at_1000": 0.88033, - "precision_at_1": 0.71302, - "precision_at_3": 0.55523, - "precision_at_5": 0.46095, - "precision_at_10": 0.31746, - "precision_at_50": 0.07574, - "precision_at_100": 0.03831, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.71302, - "mrr_at_3": 0.77761, - "mrr_at_5": 0.78383, - "mrr_at_10": 0.78728, - "mrr_at_50": 0.79029, - "mrr_at_100": 0.79042, - "mrr_at_1000": 0.79042 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.77876, - "ndcg_at_3": 0.68138, - "ndcg_at_5": 0.68349, - "ndcg_at_10": 0.73113, - "ndcg_at_50": 0.79187, - "ndcg_at_100": 0.79472, - "ndcg_at_1000": 0.79472, - "map_at_1": 0.26961, - "map_at_3": 0.47242, - "map_at_5": 0.55454, - "map_at_10": 0.62859, - "map_at_50": 0.66357, - "map_at_100": 0.6641, - "map_at_1000": 0.6641, - "recall_at_1": 0.26961, - "recall_at_3": 0.50505, - "recall_at_5": 0.63177, - "recall_at_10": 0.7773, - "recall_at_50": 0.94726, - "recall_at_100": 0.96004, - "recall_at_1000": 0.96004, - "precision_at_1": 0.77876, - "precision_at_3": 0.56834, - "precision_at_5": 0.45605, - "precision_at_10": 0.30088, - "precision_at_50": 0.07357, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.78171, - "mrr_at_3": 0.83382, - "mrr_at_5": 0.84164, - "mrr_at_10": 0.8434, - "mrr_at_50": 0.84623, - "mrr_at_100": 0.84627, - "mrr_at_1000": 0.84627 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.82337, - "ndcg_at_3": 0.73448, - "ndcg_at_5": 0.73196, - "ndcg_at_10": 0.77988, - "ndcg_at_50": 0.83629, - "ndcg_at_100": 0.83865, - "ndcg_at_1000": 0.83865, - "map_at_1": 0.30555, - "map_at_3": 0.50572, - "map_at_5": 0.59323, - "map_at_10": 0.67533, - "map_at_50": 0.71369, - "map_at_100": 0.71428, - "map_at_1000": 0.71428, - "recall_at_1": 0.30555, - "recall_at_3": 0.53622, - "recall_at_5": 0.67608, - "recall_at_10": 0.82518, - "recall_at_50": 0.96597, - "recall_at_100": 0.97468, - "recall_at_1000": 0.97468, - "precision_at_1": 0.82337, - "precision_at_3": 0.5933, - "precision_at_5": 0.48098, - "precision_at_10": 0.3212, - "precision_at_50": 0.07793, - "precision_at_100": 0.0394, - "precision_at_1000": 0.00394, - "mrr_at_1": 0.82337, - "mrr_at_3": 0.87455, - "mrr_at_5": 0.88256, - "mrr_at_10": 0.88481, - "mrr_at_50": 0.88533, - "mrr_at_100": 0.88533, - "mrr_at_1000": 0.88533 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.63095, - "ndcg_at_3": 0.5853, - "ndcg_at_5": 0.59753, - "ndcg_at_10": 0.63662, - "ndcg_at_50": 0.69008, - "ndcg_at_100": 0.69598, - "ndcg_at_1000": 0.69598, - "map_at_1": 0.27342, - "map_at_3": 0.43579, - "map_at_5": 0.49838, - "map_at_10": 0.544, - "map_at_50": 0.57164, - "map_at_100": 0.57255, - "map_at_1000": 0.57255, - "recall_at_1": 0.27342, - "recall_at_3": 0.4883, - "recall_at_5": 0.5919, - "recall_at_10": 0.69956, - "recall_at_50": 0.85737, - "recall_at_100": 0.88582, - "recall_at_1000": 0.88582, - "precision_at_1": 0.63095, - "precision_at_3": 0.44147, - "precision_at_5": 0.34821, - "precision_at_10": 0.22083, - "precision_at_50": 0.05512, - "precision_at_100": 0.02824, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.63095, - "mrr_at_3": 0.70833, - "mrr_at_5": 0.71577, - "mrr_at_10": 0.72003, - "mrr_at_50": 0.7232, - "mrr_at_100": 0.72349, - "mrr_at_1000": 0.72349 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.68169, - "ndcg_at_3": 0.62574, - "ndcg_at_5": 0.64783, - "ndcg_at_10": 0.7028, - "ndcg_at_50": 0.74883, - "ndcg_at_100": 0.75306, - "ndcg_at_1000": 0.75306, - "map_at_1": 0.3341, - "map_at_3": 0.49778, - "map_at_5": 0.55248, - "map_at_10": 0.60146, - "map_at_50": 0.62425, - "map_at_100": 0.62488, - "map_at_1000": 0.62488, - "recall_at_1": 0.3341, - "recall_at_3": 0.55664, - "recall_at_5": 0.66674, - "recall_at_10": 0.79259, - "recall_at_50": 0.93165, - "recall_at_100": 0.95276, - "recall_at_1000": 0.95276, - "precision_at_1": 0.68169, - "precision_at_3": 0.44601, - "precision_at_5": 0.3369, - "precision_at_10": 0.21465, - "precision_at_50": 0.05138, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.68169, - "mrr_at_3": 0.76056, - "mrr_at_5": 0.77155, - "mrr_at_10": 0.776, - "mrr_at_50": 0.77858, - "mrr_at_100": 0.77875, - "mrr_at_1000": 0.77875 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.65266, - "ndcg_at_3": 0.59261, - "ndcg_at_5": 0.61383, - "ndcg_at_10": 0.67085, - "ndcg_at_50": 0.71889, - "ndcg_at_100": 0.72281, - "ndcg_at_1000": 0.72281, - "map_at_1": 0.32023, - "map_at_3": 0.47417, - "map_at_5": 0.52222, - "map_at_10": 0.56904, - "map_at_50": 0.58955, - "map_at_100": 0.59017, - "map_at_1000": 0.59017, - "recall_at_1": 0.32023, - "recall_at_3": 0.53504, - "recall_at_5": 0.63058, - "recall_at_10": 0.76349, - "recall_at_50": 0.91154, - "recall_at_100": 0.93127, - "recall_at_1000": 0.93127, - "precision_at_1": 0.65266, - "precision_at_3": 0.41643, - "precision_at_5": 0.31036, - "precision_at_10": 0.2, - "precision_at_50": 0.04952, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.65266, - "mrr_at_3": 0.73203, - "mrr_at_5": 0.74281, - "mrr_at_10": 0.74858, - "mrr_at_50": 0.75165, - "mrr_at_100": 0.75181, - "mrr_at_1000": 0.75181 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.66398, - "ndcg_at_3": 0.62404, - "ndcg_at_5": 0.63212, - "ndcg_at_10": 0.66804, - "ndcg_at_50": 0.70956, - "ndcg_at_100": 0.71348, - "ndcg_at_1000": 0.71348, - "map_at_1": 0.34346, - "map_at_3": 0.50382, - "map_at_5": 0.54532, - "map_at_10": 0.5749, - "map_at_50": 0.59489, - "map_at_100": 0.5956, - "map_at_1000": 0.5956, - "recall_at_1": 0.34346, - "recall_at_3": 0.55932, - "recall_at_5": 0.64131, - "recall_at_10": 0.72945, - "recall_at_50": 0.85553, - "recall_at_100": 0.87289, - "recall_at_1000": 0.87289, - "precision_at_1": 0.66398, - "precision_at_3": 0.43548, - "precision_at_5": 0.31935, - "precision_at_10": 0.19005, - "precision_at_50": 0.04602, - "precision_at_100": 0.02352, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.66398, - "mrr_at_3": 0.74418, - "mrr_at_5": 0.75547, - "mrr_at_10": 0.75897, - "mrr_at_50": 0.76076, - "mrr_at_100": 0.76083, - "mrr_at_1000": 0.76083 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.56557, - "ndcg_at_3": 0.52695, - "ndcg_at_5": 0.54082, - "ndcg_at_10": 0.59295, - "ndcg_at_50": 0.66396, - "ndcg_at_100": 0.67108, - "ndcg_at_1000": 0.67108, - "map_at_1": 0.24276, - "map_at_3": 0.38249, - "map_at_5": 0.43734, - "map_at_10": 0.48497, - "map_at_50": 0.51872, - "map_at_100": 0.51988, - "map_at_1000": 0.51988, - "recall_at_1": 0.24276, - "recall_at_3": 0.43955, - "recall_at_5": 0.54069, - "recall_at_10": 0.67386, - "recall_at_50": 0.89161, - "recall_at_100": 0.9257, - "recall_at_1000": 0.9257, - "precision_at_1": 0.56557, - "precision_at_3": 0.40164, - "precision_at_5": 0.31858, - "precision_at_10": 0.21038, - "precision_at_50": 0.05628, - "precision_at_100": 0.02902, - "precision_at_1000": 0.0029, - "mrr_at_1": 0.56557, - "mrr_at_3": 0.6612, - "mrr_at_5": 0.67117, - "mrr_at_10": 0.68101, - "mrr_at_50": 0.68452, - "mrr_at_100": 0.6847, - "mrr_at_1000": 0.6847 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.56757, - "ndcg_at_3": 0.58017, - "ndcg_at_5": 0.61671, - "ndcg_at_10": 0.67556, - "ndcg_at_50": 0.72077, - "ndcg_at_100": 0.72367, - "ndcg_at_1000": 0.72367, - "map_at_1": 0.31075, - "map_at_3": 0.47912, - "map_at_5": 0.53372, - "map_at_10": 0.57825, - "map_at_50": 0.59789, - "map_at_100": 0.59829, - "map_at_1000": 0.59829, - "recall_at_1": 0.31075, - "recall_at_3": 0.56548, - "recall_at_5": 0.67622, - "recall_at_10": 0.81814, - "recall_at_50": 0.96604, - "recall_at_100": 0.98063, - "recall_at_1000": 0.98063, - "precision_at_1": 0.56757, - "precision_at_3": 0.38919, - "precision_at_5": 0.30162, - "precision_at_10": 0.19108, - "precision_at_50": 0.04584, - "precision_at_100": 0.02324, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.56757, - "mrr_at_3": 0.67072, - "mrr_at_5": 0.68342, - "mrr_at_10": 0.6925, - "mrr_at_50": 0.69592, - "mrr_at_100": 0.69606, - "mrr_at_1000": 0.69606 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.47239, - "ndcg_at_3": 0.51524, - "ndcg_at_5": 0.55295, - "ndcg_at_10": 0.60848, - "ndcg_at_50": 0.65261, - "ndcg_at_100": 0.65894, - "ndcg_at_1000": 0.65894, - "map_at_1": 0.2989, - "map_at_3": 0.43613, - "map_at_5": 0.47736, - "map_at_10": 0.51616, - "map_at_50": 0.5333, - "map_at_100": 0.53397, - "map_at_1000": 0.53397, - "recall_at_1": 0.2989, - "recall_at_3": 0.53293, - "recall_at_5": 0.63005, - "recall_at_10": 0.76482, - "recall_at_50": 0.92025, - "recall_at_100": 0.95706, - "recall_at_1000": 0.95706, - "precision_at_1": 0.47239, - "precision_at_3": 0.31493, - "precision_at_5": 0.24049, - "precision_at_10": 0.15307, - "precision_at_50": 0.0365, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.47239, - "mrr_at_3": 0.58436, - "mrr_at_5": 0.59954, - "mrr_at_10": 0.60914, - "mrr_at_50": 0.61442, - "mrr_at_100": 0.61479, - "mrr_at_1000": 0.61479 - }, - "gpt3": { - "ndcg_at_1": 0.42433, - "ndcg_at_3": 0.52055, - "ndcg_at_5": 0.55269, - "ndcg_at_10": 0.58921, - "ndcg_at_50": 0.63219, - "ndcg_at_100": 0.64043, - "ndcg_at_1000": 0.64043, - "map_at_1": 0.3269, - "map_at_3": 0.46777, - "map_at_5": 0.48998, - "map_at_10": 0.51046, - "map_at_50": 0.52286, - "map_at_100": 0.52381, - "map_at_1000": 0.52381, - "recall_at_1": 0.3269, - "recall_at_3": 0.591, - "recall_at_5": 0.6595, - "recall_at_10": 0.75495, - "recall_at_50": 0.92681, - "recall_at_100": 0.97354, - "recall_at_1000": 0.97354, - "precision_at_1": 0.42433, - "precision_at_3": 0.27003, - "precision_at_5": 0.18694, - "precision_at_10": 0.11128, - "precision_at_50": 0.02736, - "precision_at_100": 0.0143, - "precision_at_1000": 0.00143, - "mrr_at_1": 0.42433, - "mrr_at_3": 0.545, - "mrr_at_5": 0.56014, - "mrr_at_10": 0.56875, - "mrr_at_50": 0.5751, - "mrr_at_100": 0.57564, - "mrr_at_1000": 0.57564 - }, - "llm-survey": { - "ndcg_at_1": 0.52381, - "ndcg_at_3": 0.49578, - "ndcg_at_5": 0.52123, - "ndcg_at_10": 0.564, - "ndcg_at_50": 0.62418, - "ndcg_at_100": 0.63486, - "ndcg_at_1000": 0.63486, - "map_at_1": 0.24569, - "map_at_3": 0.386, - "map_at_5": 0.43415, - "map_at_10": 0.47179, - "map_at_50": 0.49552, - "map_at_100": 0.49676, - "map_at_1000": 0.49676, - "recall_at_1": 0.24569, - "recall_at_3": 0.44721, - "recall_at_5": 0.54679, - "recall_at_10": 0.65429, - "recall_at_50": 0.85579, - "recall_at_100": 0.91496, - "recall_at_1000": 0.91496, - "precision_at_1": 0.52381, - "precision_at_3": 0.36041, - "precision_at_5": 0.27955, - "precision_at_10": 0.17619, - "precision_at_50": 0.04599, - "precision_at_100": 0.02389, - "precision_at_1000": 0.00239, - "mrr_at_1": 0.52381, - "mrr_at_3": 0.60644, - "mrr_at_5": 0.61961, - "mrr_at_10": 0.62736, - "mrr_at_50": 0.63299, - "mrr_at_100": 0.63362, - "mrr_at_1000": 0.63362 - }, - "gemini": { - "ndcg_at_1": 0.41767, - "ndcg_at_3": 0.57377, - "ndcg_at_5": 0.59001, - "ndcg_at_10": 0.61397, - "ndcg_at_50": 0.64753, - "ndcg_at_100": 0.65144, - "ndcg_at_1000": 0.65144, - "map_at_1": 0.41767, - "map_at_3": 0.53481, - "map_at_5": 0.54364, - "map_at_10": 0.55386, - "map_at_50": 0.56135, - "map_at_100": 0.56169, - "map_at_1000": 0.56169, - "recall_at_1": 0.41767, - "recall_at_3": 0.68675, - "recall_at_5": 0.72691, - "recall_at_10": 0.7992, - "recall_at_50": 0.94779, - "recall_at_100": 0.97189, - "recall_at_1000": 0.97189, - "precision_at_1": 0.41767, - "precision_at_3": 0.22892, - "precision_at_5": 0.14538, - "precision_at_10": 0.07992, - "precision_at_50": 0.01896, - "precision_at_100": 0.00972, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.41767, - "mrr_at_3": 0.53481, - "mrr_at_5": 0.54384, - "mrr_at_10": 0.55406, - "mrr_at_50": 0.56155, - "mrr_at_100": 0.56189, - "mrr_at_1000": 0.56189 - } - } - } - } - } - }, - "[jina-embeddings-v2-base-en](https://huggingface.co/jinaai/jina-embeddings-v2-base-en)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.24486, - "ndcg_at_3": 0.23534, - "ndcg_at_5": 0.24023, - "ndcg_at_10": 0.2544, - "ndcg_at_50": 0.27762, - "ndcg_at_100": 0.28158, - "ndcg_at_1000": 0.28158, - "map_at_1": 0.08256, - "map_at_3": 0.14413, - "map_at_5": 0.1724, - "map_at_10": 0.19899, - "map_at_50": 0.20977, - "map_at_100": 0.21036, - "map_at_1000": 0.21036, - "recall_at_1": 0.08256, - "recall_at_3": 0.17436, - "recall_at_5": 0.22806, - "recall_at_10": 0.28665, - "recall_at_50": 0.3579, - "recall_at_100": 0.37618, - "recall_at_1000": 0.37618, - "precision_at_1": 0.24486, - "precision_at_3": 0.1973, - "precision_at_5": 0.16469, - "precision_at_10": 0.11172, - "precision_at_50": 0.02746, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.24486, - "mrr_at_3": 0.29863, - "mrr_at_5": 0.30876, - "mrr_at_10": 0.31254, - "mrr_at_50": 0.31472, - "mrr_at_100": 0.31494, - "mrr_at_1000": 0.31494 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.51611, - "ndcg_at_3": 0.50213, - "ndcg_at_5": 0.5006, - "ndcg_at_10": 0.51595, - "ndcg_at_50": 0.54024, - "ndcg_at_100": 0.54313, - "ndcg_at_1000": 0.54313, - "map_at_1": 0.20633, - "map_at_3": 0.33684, - "map_at_5": 0.38801, - "map_at_10": 0.43447, - "map_at_50": 0.44865, - "map_at_100": 0.44909, - "map_at_1000": 0.44909, - "recall_at_1": 0.20633, - "recall_at_3": 0.38648, - "recall_at_5": 0.46725, - "recall_at_10": 0.5538, - "recall_at_50": 0.62242, - "recall_at_100": 0.63614, - "recall_at_1000": 0.63614, - "precision_at_1": 0.51611, - "precision_at_3": 0.39095, - "precision_at_5": 0.31487, - "precision_at_10": 0.20694, - "precision_at_50": 0.04757, - "precision_at_100": 0.02413, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.51611, - "mrr_at_3": 0.59542, - "mrr_at_5": 0.60316, - "mrr_at_10": 0.60722, - "mrr_at_50": 0.60896, - "mrr_at_100": 0.60908, - "mrr_at_1000": 0.60908 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.70343, - "ndcg_at_3": 0.66411, - "ndcg_at_5": 0.65554, - "ndcg_at_10": 0.68021, - "ndcg_at_50": 0.71427, - "ndcg_at_100": 0.71791, - "ndcg_at_1000": 0.71791, - "map_at_1": 0.18557, - "map_at_3": 0.36649, - "map_at_5": 0.46933, - "map_at_10": 0.57954, - "map_at_50": 0.60312, - "map_at_100": 0.60388, - "map_at_1000": 0.60388, - "recall_at_1": 0.18557, - "recall_at_3": 0.40296, - "recall_at_5": 0.54328, - "recall_at_10": 0.71372, - "recall_at_50": 0.80351, - "recall_at_100": 0.81887, - "recall_at_1000": 0.81887, - "precision_at_1": 0.70343, - "precision_at_3": 0.59587, - "precision_at_5": 0.52011, - "precision_at_10": 0.37126, - "precision_at_50": 0.08383, - "precision_at_100": 0.04248, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.70407, - "mrr_at_3": 0.77164, - "mrr_at_5": 0.7792, - "mrr_at_10": 0.78218, - "mrr_at_50": 0.78334, - "mrr_at_100": 0.78344, - "mrr_at_1000": 0.78344 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.57528, - "ndcg_at_3": 0.53876, - "ndcg_at_5": 0.56046, - "ndcg_at_10": 0.59318, - "ndcg_at_50": 0.61512, - "ndcg_at_100": 0.61881, - "ndcg_at_1000": 0.61881, - "map_at_1": 0.23936, - "map_at_3": 0.39711, - "map_at_5": 0.45868, - "map_at_10": 0.49861, - "map_at_50": 0.50783, - "map_at_100": 0.50838, - "map_at_1000": 0.50838, - "recall_at_1": 0.23936, - "recall_at_3": 0.45871, - "recall_at_5": 0.56833, - "recall_at_10": 0.66465, - "recall_at_50": 0.73954, - "recall_at_100": 0.75763, - "recall_at_1000": 0.75763, - "precision_at_1": 0.57528, - "precision_at_3": 0.41691, - "precision_at_5": 0.33263, - "precision_at_10": 0.20299, - "precision_at_50": 0.04465, - "precision_at_100": 0.02274, - "precision_at_1000": 0.00227, - "mrr_at_1": 0.57528, - "mrr_at_3": 0.66169, - "mrr_at_5": 0.67261, - "mrr_at_10": 0.67758, - "mrr_at_50": 0.67913, - "mrr_at_100": 0.67929, - "mrr_at_1000": 0.67929 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.48076, - "ndcg_at_3": 0.49489, - "ndcg_at_5": 0.50827, - "ndcg_at_10": 0.52973, - "ndcg_at_50": 0.54567, - "ndcg_at_100": 0.54866, - "ndcg_at_1000": 0.54866, - "map_at_1": 0.28516, - "map_at_3": 0.41189, - "map_at_5": 0.44743, - "map_at_10": 0.47388, - "map_at_50": 0.48066, - "map_at_100": 0.48095, - "map_at_1000": 0.48095, - "recall_at_1": 0.28516, - "recall_at_3": 0.46952, - "recall_at_5": 0.53513, - "recall_at_10": 0.60135, - "recall_at_50": 0.65807, - "recall_at_100": 0.67565, - "recall_at_1000": 0.67565, - "precision_at_1": 0.48076, - "precision_at_3": 0.31483, - "precision_at_5": 0.2347, - "precision_at_10": 0.14151, - "precision_at_50": 0.03093, - "precision_at_100": 0.01567, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.48076, - "mrr_at_3": 0.54301, - "mrr_at_5": 0.54925, - "mrr_at_10": 0.55335, - "mrr_at_50": 0.55545, - "mrr_at_100": 0.55569, - "mrr_at_1000": 0.55569 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.63231, - "ndcg_at_3": 0.59325, - "ndcg_at_5": 0.60613, - "ndcg_at_10": 0.62373, - "ndcg_at_50": 0.6389, - "ndcg_at_100": 0.64111, - "ndcg_at_1000": 0.64111, - "map_at_1": 0.36556, - "map_at_3": 0.48917, - "map_at_5": 0.52637, - "map_at_10": 0.54658, - "map_at_50": 0.55297, - "map_at_100": 0.55326, - "map_at_1000": 0.55326, - "recall_at_1": 0.36556, - "recall_at_3": 0.545, - "recall_at_5": 0.61549, - "recall_at_10": 0.66697, - "recall_at_50": 0.71563, - "recall_at_100": 0.72745, - "recall_at_1000": 0.72745, - "precision_at_1": 0.63231, - "precision_at_3": 0.37406, - "precision_at_5": 0.27238, - "precision_at_10": 0.15518, - "precision_at_50": 0.03397, - "precision_at_100": 0.01719, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.63231, - "mrr_at_3": 0.70691, - "mrr_at_5": 0.71426, - "mrr_at_10": 0.71657, - "mrr_at_50": 0.7181, - "mrr_at_100": 0.71822, - "mrr_at_1000": 0.71822 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.48758, - "ndcg_at_3": 0.46012, - "ndcg_at_5": 0.47297, - "ndcg_at_10": 0.50453, - "ndcg_at_50": 0.53112, - "ndcg_at_100": 0.5343, - "ndcg_at_1000": 0.5343, - "map_at_1": 0.18987, - "map_at_3": 0.31299, - "map_at_5": 0.36458, - "map_at_10": 0.4052, - "map_at_50": 0.41629, - "map_at_100": 0.41674, - "map_at_1000": 0.41674, - "recall_at_1": 0.18987, - "recall_at_3": 0.37735, - "recall_at_5": 0.47661, - "recall_at_10": 0.57258, - "recall_at_50": 0.6604, - "recall_at_100": 0.67634, - "recall_at_1000": 0.67634, - "precision_at_1": 0.48758, - "precision_at_3": 0.36665, - "precision_at_5": 0.29382, - "precision_at_10": 0.18666, - "precision_at_50": 0.04232, - "precision_at_100": 0.02149, - "precision_at_1000": 0.00215, - "mrr_at_1": 0.48758, - "mrr_at_3": 0.58184, - "mrr_at_5": 0.59415, - "mrr_at_10": 0.59847, - "mrr_at_50": 0.60079, - "mrr_at_100": 0.60097, - "mrr_at_1000": 0.60097 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.52021, - "ndcg_at_3": 0.49949, - "ndcg_at_5": 0.49807, - "ndcg_at_10": 0.51585, - "ndcg_at_50": 0.5394, - "ndcg_at_100": 0.54171, - "ndcg_at_1000": 0.54171, - "map_at_1": 0.23389, - "map_at_3": 0.34777, - "map_at_5": 0.39039, - "map_at_10": 0.42608, - "map_at_50": 0.43784, - "map_at_100": 0.43822, - "map_at_1000": 0.43822, - "recall_at_1": 0.23389, - "recall_at_3": 0.40479, - "recall_at_5": 0.48196, - "recall_at_10": 0.55839, - "recall_at_50": 0.62498, - "recall_at_100": 0.6352, - "recall_at_1000": 0.6352, - "precision_at_1": 0.52021, - "precision_at_3": 0.36848, - "precision_at_5": 0.28752, - "precision_at_10": 0.18102, - "precision_at_50": 0.04161, - "precision_at_100": 0.02112, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.5208, - "mrr_at_3": 0.61209, - "mrr_at_5": 0.62146, - "mrr_at_10": 0.62496, - "mrr_at_50": 0.62666, - "mrr_at_100": 0.62674, - "mrr_at_1000": 0.62674 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.70231, - "ndcg_at_3": 0.63543, - "ndcg_at_5": 0.64797, - "ndcg_at_10": 0.69903, - "ndcg_at_50": 0.7301, - "ndcg_at_100": 0.73597, - "ndcg_at_1000": 0.73597, - "map_at_1": 0.21748, - "map_at_3": 0.41299, - "map_at_5": 0.51222, - "map_at_10": 0.59707, - "map_at_50": 0.61266, - "map_at_100": 0.61356, - "map_at_1000": 0.61356, - "recall_at_1": 0.21748, - "recall_at_3": 0.45852, - "recall_at_5": 0.61398, - "recall_at_10": 0.77515, - "recall_at_50": 0.8703, - "recall_at_100": 0.89872, - "recall_at_1000": 0.89872, - "precision_at_1": 0.70231, - "precision_at_3": 0.54913, - "precision_at_5": 0.46416, - "precision_at_10": 0.30925, - "precision_at_50": 0.06827, - "precision_at_100": 0.0348, - "precision_at_1000": 0.00348, - "mrr_at_1": 0.70231, - "mrr_at_3": 0.76541, - "mrr_at_5": 0.77437, - "mrr_at_10": 0.77934, - "mrr_at_50": 0.78123, - "mrr_at_100": 0.78157, - "mrr_at_1000": 0.78157 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.6997, - "ndcg_at_3": 0.62956, - "ndcg_at_5": 0.63069, - "ndcg_at_10": 0.69394, - "ndcg_at_50": 0.72693, - "ndcg_at_100": 0.73038, - "ndcg_at_1000": 0.73038, - "map_at_1": 0.19988, - "map_at_3": 0.37719, - "map_at_5": 0.47491, - "map_at_10": 0.58618, - "map_at_50": 0.60543, - "map_at_100": 0.60605, - "map_at_1000": 0.60605, - "recall_at_1": 0.19988, - "recall_at_3": 0.41145, - "recall_at_5": 0.55732, - "recall_at_10": 0.76894, - "recall_at_50": 0.86457, - "recall_at_100": 0.88072, - "recall_at_1000": 0.88072, - "precision_at_1": 0.6997, - "precision_at_3": 0.55455, - "precision_at_5": 0.47988, - "precision_at_10": 0.34384, - "precision_at_50": 0.07628, - "precision_at_100": 0.03853, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.6997, - "mrr_at_3": 0.76026, - "mrr_at_5": 0.76912, - "mrr_at_10": 0.77602, - "mrr_at_50": 0.77692, - "mrr_at_100": 0.77701, - "mrr_at_1000": 0.77701 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.70414, - "ndcg_at_3": 0.66269, - "ndcg_at_5": 0.66341, - "ndcg_at_10": 0.70312, - "ndcg_at_50": 0.73855, - "ndcg_at_100": 0.7429, - "ndcg_at_1000": 0.7429, - "map_at_1": 0.21437, - "map_at_3": 0.4115, - "map_at_5": 0.51422, - "map_at_10": 0.61271, - "map_at_50": 0.63129, - "map_at_100": 0.63204, - "map_at_1000": 0.63204, - "recall_at_1": 0.21437, - "recall_at_3": 0.44978, - "recall_at_5": 0.59233, - "recall_at_10": 0.7505, - "recall_at_50": 0.8595, - "recall_at_100": 0.88025, - "recall_at_1000": 0.88025, - "precision_at_1": 0.70414, - "precision_at_3": 0.5789, - "precision_at_5": 0.49527, - "precision_at_10": 0.34172, - "precision_at_50": 0.07574, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.70414, - "mrr_at_3": 0.76529, - "mrr_at_5": 0.77165, - "mrr_at_10": 0.77563, - "mrr_at_50": 0.77866, - "mrr_at_100": 0.7788, - "mrr_at_1000": 0.7788 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.75221, - "ndcg_at_3": 0.69309, - "ndcg_at_5": 0.70512, - "ndcg_at_10": 0.75843, - "ndcg_at_50": 0.79246, - "ndcg_at_100": 0.79581, - "ndcg_at_1000": 0.79581, - "map_at_1": 0.25627, - "map_at_3": 0.4731, - "map_at_5": 0.5728, - "map_at_10": 0.66068, - "map_at_50": 0.68048, - "map_at_100": 0.68114, - "map_at_1000": 0.68114, - "recall_at_1": 0.25627, - "recall_at_3": 0.51427, - "recall_at_5": 0.66225, - "recall_at_10": 0.82407, - "recall_at_50": 0.92315, - "recall_at_100": 0.938, - "recall_at_1000": 0.938, - "precision_at_1": 0.75221, - "precision_at_3": 0.5939, - "precision_at_5": 0.49086, - "precision_at_10": 0.32596, - "precision_at_50": 0.07245, - "precision_at_100": 0.03667, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.75221, - "mrr_at_3": 0.82153, - "mrr_at_5": 0.82979, - "mrr_at_10": 0.83192, - "mrr_at_50": 0.83312, - "mrr_at_100": 0.83321, - "mrr_at_1000": 0.83321 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.81793, - "ndcg_at_3": 0.75073, - "ndcg_at_5": 0.74862, - "ndcg_at_10": 0.8037, - "ndcg_at_50": 0.83652, - "ndcg_at_100": 0.83905, - "ndcg_at_1000": 0.83905, - "map_at_1": 0.29498, - "map_at_3": 0.51214, - "map_at_5": 0.61277, - "map_at_10": 0.71369, - "map_at_50": 0.73253, - "map_at_100": 0.733, - "map_at_1000": 0.733, - "recall_at_1": 0.29498, - "recall_at_3": 0.55001, - "recall_at_5": 0.69261, - "recall_at_10": 0.85491, - "recall_at_50": 0.94842, - "recall_at_100": 0.95929, - "recall_at_1000": 0.95929, - "precision_at_1": 0.81793, - "precision_at_3": 0.62138, - "precision_at_5": 0.51196, - "precision_at_10": 0.34891, - "precision_at_50": 0.07723, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.81793, - "mrr_at_3": 0.87138, - "mrr_at_5": 0.87491, - "mrr_at_10": 0.87564, - "mrr_at_50": 0.87743, - "mrr_at_100": 0.87752, - "mrr_at_1000": 0.87752 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66964, - "ndcg_at_3": 0.6246, - "ndcg_at_5": 0.63094, - "ndcg_at_10": 0.67618, - "ndcg_at_50": 0.70933, - "ndcg_at_100": 0.7131, - "ndcg_at_1000": 0.7131, - "map_at_1": 0.28027, - "map_at_3": 0.46717, - "map_at_5": 0.53392, - "map_at_10": 0.59248, - "map_at_50": 0.60638, - "map_at_100": 0.60702, - "map_at_1000": 0.60702, - "recall_at_1": 0.28027, - "recall_at_3": 0.51155, - "recall_at_5": 0.61344, - "recall_at_10": 0.73632, - "recall_at_50": 0.85086, - "recall_at_100": 0.86906, - "recall_at_1000": 0.86906, - "precision_at_1": 0.66964, - "precision_at_3": 0.48313, - "precision_at_5": 0.37917, - "precision_at_10": 0.24405, - "precision_at_50": 0.05476, - "precision_at_100": 0.0278, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.66964, - "mrr_at_3": 0.73512, - "mrr_at_5": 0.74063, - "mrr_at_10": 0.74396, - "mrr_at_50": 0.74705, - "mrr_at_100": 0.74724, - "mrr_at_1000": 0.74724 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.67887, - "ndcg_at_3": 0.62313, - "ndcg_at_5": 0.65561, - "ndcg_at_10": 0.71903, - "ndcg_at_50": 0.74419, - "ndcg_at_100": 0.74718, - "ndcg_at_1000": 0.74718, - "map_at_1": 0.32438, - "map_at_3": 0.48986, - "map_at_5": 0.55587, - "map_at_10": 0.61382, - "map_at_50": 0.62606, - "map_at_100": 0.62654, - "map_at_1000": 0.62654, - "recall_at_1": 0.32438, - "recall_at_3": 0.55916, - "recall_at_5": 0.67977, - "recall_at_10": 0.82565, - "recall_at_50": 0.90636, - "recall_at_100": 0.92139, - "recall_at_1000": 0.92139, - "precision_at_1": 0.67887, - "precision_at_3": 0.44413, - "precision_at_5": 0.35042, - "precision_at_10": 0.22761, - "precision_at_50": 0.05008, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.67887, - "mrr_at_3": 0.76854, - "mrr_at_5": 0.77657, - "mrr_at_10": 0.78039, - "mrr_at_50": 0.78191, - "mrr_at_100": 0.78201, - "mrr_at_1000": 0.78201 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.69468, - "ndcg_at_3": 0.63096, - "ndcg_at_5": 0.67314, - "ndcg_at_10": 0.73665, - "ndcg_at_50": 0.75698, - "ndcg_at_100": 0.76031, - "ndcg_at_1000": 0.76031, - "map_at_1": 0.33881, - "map_at_3": 0.5041, - "map_at_5": 0.57878, - "map_at_10": 0.636, - "map_at_50": 0.64574, - "map_at_100": 0.64613, - "map_at_1000": 0.64613, - "recall_at_1": 0.33881, - "recall_at_3": 0.55893, - "recall_at_5": 0.69728, - "recall_at_10": 0.84412, - "recall_at_50": 0.90868, - "recall_at_100": 0.92692, - "recall_at_1000": 0.92692, - "precision_at_1": 0.69468, - "precision_at_3": 0.45005, - "precision_at_5": 0.3619, - "precision_at_10": 0.23109, - "precision_at_50": 0.04992, - "precision_at_100": 0.02527, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.69468, - "mrr_at_3": 0.77311, - "mrr_at_5": 0.78389, - "mrr_at_10": 0.78783, - "mrr_at_50": 0.78899, - "mrr_at_100": 0.78919, - "mrr_at_1000": 0.78919 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.71774, - "ndcg_at_3": 0.6514, - "ndcg_at_5": 0.67147, - "ndcg_at_10": 0.72209, - "ndcg_at_50": 0.74061, - "ndcg_at_100": 0.74319, - "ndcg_at_1000": 0.74319, - "map_at_1": 0.36593, - "map_at_3": 0.53022, - "map_at_5": 0.58552, - "map_at_10": 0.63283, - "map_at_50": 0.6412, - "map_at_100": 0.64155, - "map_at_1000": 0.64155, - "recall_at_1": 0.36593, - "recall_at_3": 0.57357, - "recall_at_5": 0.68097, - "recall_at_10": 0.79543, - "recall_at_50": 0.85504, - "recall_at_100": 0.86893, - "recall_at_1000": 0.86893, - "precision_at_1": 0.71774, - "precision_at_3": 0.44713, - "precision_at_5": 0.34194, - "precision_at_10": 0.21317, - "precision_at_50": 0.04602, - "precision_at_100": 0.02325, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.71774, - "mrr_at_3": 0.77375, - "mrr_at_5": 0.78611, - "mrr_at_10": 0.78975, - "mrr_at_50": 0.79071, - "mrr_at_100": 0.79081, - "mrr_at_1000": 0.79081 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.63115, - "ndcg_at_3": 0.57403, - "ndcg_at_5": 0.60698, - "ndcg_at_10": 0.67296, - "ndcg_at_50": 0.70097, - "ndcg_at_100": 0.70741, - "ndcg_at_1000": 0.70741, - "map_at_1": 0.25854, - "map_at_3": 0.41684, - "map_at_5": 0.49344, - "map_at_10": 0.56538, - "map_at_50": 0.57757, - "map_at_100": 0.57849, - "map_at_1000": 0.57849, - "recall_at_1": 0.25854, - "recall_at_3": 0.47514, - "recall_at_5": 0.62114, - "recall_at_10": 0.7762, - "recall_at_50": 0.86925, - "recall_at_100": 0.90128, - "recall_at_1000": 0.90128, - "precision_at_1": 0.63115, - "precision_at_3": 0.449, - "precision_at_5": 0.37213, - "precision_at_10": 0.25191, - "precision_at_50": 0.0559, - "precision_at_100": 0.02866, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.63115, - "mrr_at_3": 0.71448, - "mrr_at_5": 0.7291, - "mrr_at_10": 0.73233, - "mrr_at_50": 0.73415, - "mrr_at_100": 0.73444, - "mrr_at_1000": 0.73444 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.60541, - "ndcg_at_3": 0.60668, - "ndcg_at_5": 0.65088, - "ndcg_at_10": 0.71571, - "ndcg_at_50": 0.74101, - "ndcg_at_100": 0.74572, - "ndcg_at_1000": 0.74572, - "map_at_1": 0.33794, - "map_at_3": 0.50431, - "map_at_5": 0.56606, - "map_at_10": 0.62098, - "map_at_50": 0.6308, - "map_at_100": 0.63148, - "map_at_1000": 0.63148, - "recall_at_1": 0.33794, - "recall_at_3": 0.57979, - "recall_at_5": 0.71131, - "recall_at_10": 0.85774, - "recall_at_50": 0.94995, - "recall_at_100": 0.97392, - "recall_at_1000": 0.97392, - "precision_at_1": 0.60541, - "precision_at_3": 0.40631, - "precision_at_5": 0.31892, - "precision_at_10": 0.20811, - "precision_at_50": 0.04541, - "precision_at_100": 0.02316, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.60541, - "mrr_at_3": 0.7018, - "mrr_at_5": 0.71667, - "mrr_at_10": 0.72167, - "mrr_at_50": 0.7244, - "mrr_at_100": 0.7246, - "mrr_at_1000": 0.7246 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.46626, - "ndcg_at_3": 0.50503, - "ndcg_at_5": 0.55449, - "ndcg_at_10": 0.61391, - "ndcg_at_50": 0.64764, - "ndcg_at_100": 0.65049, - "ndcg_at_1000": 0.65049, - "map_at_1": 0.30407, - "map_at_3": 0.43439, - "map_at_5": 0.47806, - "map_at_10": 0.52068, - "map_at_50": 0.53327, - "map_at_100": 0.53359, - "map_at_1000": 0.53359, - "recall_at_1": 0.30407, - "recall_at_3": 0.52092, - "recall_at_5": 0.63892, - "recall_at_10": 0.77967, - "recall_at_50": 0.9002, - "recall_at_100": 0.91656, - "recall_at_1000": 0.91656, - "precision_at_1": 0.46626, - "precision_at_3": 0.30573, - "precision_at_5": 0.23988, - "precision_at_10": 0.15675, - "precision_at_50": 0.03589, - "precision_at_100": 0.01816, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.46626, - "mrr_at_3": 0.57055, - "mrr_at_5": 0.59509, - "mrr_at_10": 0.60259, - "mrr_at_50": 0.60729, - "mrr_at_100": 0.60746, - "mrr_at_1000": 0.60746 - }, - "gpt3": { - "ndcg_at_1": 0.4451, - "ndcg_at_3": 0.50621, - "ndcg_at_5": 0.54705, - "ndcg_at_10": 0.58941, - "ndcg_at_50": 0.62798, - "ndcg_at_100": 0.63602, - "ndcg_at_1000": 0.63602, - "map_at_1": 0.35559, - "map_at_3": 0.46048, - "map_at_5": 0.49082, - "map_at_10": 0.51456, - "map_at_50": 0.52489, - "map_at_100": 0.52567, - "map_at_1000": 0.52567, - "recall_at_1": 0.35559, - "recall_at_3": 0.55119, - "recall_at_5": 0.63798, - "recall_at_10": 0.74876, - "recall_at_50": 0.90529, - "recall_at_100": 0.95326, - "recall_at_1000": 0.95326, - "precision_at_1": 0.4451, - "precision_at_3": 0.25223, - "precision_at_5": 0.18398, - "precision_at_10": 0.11187, - "precision_at_50": 0.02694, - "precision_at_100": 0.01404, - "precision_at_1000": 0.0014, - "mrr_at_1": 0.4451, - "mrr_at_3": 0.54204, - "mrr_at_5": 0.55687, - "mrr_at_10": 0.56782, - "mrr_at_50": 0.57406, - "mrr_at_100": 0.57466, - "mrr_at_1000": 0.57466 - }, - "llm-survey": { - "ndcg_at_1": 0.56022, - "ndcg_at_3": 0.52802, - "ndcg_at_5": 0.56091, - "ndcg_at_10": 0.60951, - "ndcg_at_50": 0.64468, - "ndcg_at_100": 0.65275, - "ndcg_at_1000": 0.65275, - "map_at_1": 0.25818, - "map_at_3": 0.4169, - "map_at_5": 0.47185, - "map_at_10": 0.51809, - "map_at_50": 0.53225, - "map_at_100": 0.53324, - "map_at_1000": 0.53324, - "recall_at_1": 0.25818, - "recall_at_3": 0.47695, - "recall_at_5": 0.59205, - "recall_at_10": 0.70727, - "recall_at_50": 0.83099, - "recall_at_100": 0.87483, - "recall_at_1000": 0.87483, - "precision_at_1": 0.56022, - "precision_at_3": 0.38749, - "precision_at_5": 0.30308, - "precision_at_10": 0.19496, - "precision_at_50": 0.04471, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.56022, - "mrr_at_3": 0.63819, - "mrr_at_5": 0.65205, - "mrr_at_10": 0.65741, - "mrr_at_50": 0.66066, - "mrr_at_100": 0.66102, - "mrr_at_1000": 0.66102 - }, - "gemini": { - "ndcg_at_1": 0.46586, - "ndcg_at_3": 0.58744, - "ndcg_at_5": 0.60732, - "ndcg_at_10": 0.63498, - "ndcg_at_50": 0.66113, - "ndcg_at_100": 0.66574, - "ndcg_at_1000": 0.66574, - "map_at_1": 0.46586, - "map_at_3": 0.55489, - "map_at_5": 0.56593, - "map_at_10": 0.57758, - "map_at_50": 0.58339, - "map_at_100": 0.58381, - "map_at_1000": 0.58381, - "recall_at_1": 0.46586, - "recall_at_3": 0.68273, - "recall_at_5": 0.73092, - "recall_at_10": 0.81526, - "recall_at_50": 0.93173, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.46586, - "precision_at_3": 0.22758, - "precision_at_5": 0.14618, - "precision_at_10": 0.08153, - "precision_at_50": 0.01863, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.46586, - "mrr_at_3": 0.55556, - "mrr_at_5": 0.5666, - "mrr_at_10": 0.57865, - "mrr_at_50": 0.5841, - "mrr_at_100": 0.58452, - "mrr_at_1000": 0.58452 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.30094, - "ndcg_at_3": 0.27362, - "ndcg_at_5": 0.2754, - "ndcg_at_10": 0.28656, - "ndcg_at_50": 0.30802, - "ndcg_at_100": 0.31014, - "ndcg_at_1000": 0.31014, - "map_at_1": 0.11346, - "map_at_3": 0.18194, - "map_at_5": 0.21111, - "map_at_10": 0.23565, - "map_at_50": 0.24669, - "map_at_100": 0.247, - "map_at_1000": 0.247, - "recall_at_1": 0.11346, - "recall_at_3": 0.20386, - "recall_at_5": 0.25487, - "recall_at_10": 0.30532, - "recall_at_50": 0.36601, - "recall_at_100": 0.37618, - "recall_at_1000": 0.37618, - "precision_at_1": 0.30094, - "precision_at_3": 0.2171, - "precision_at_5": 0.17501, - "precision_at_10": 0.11438, - "precision_at_50": 0.02796, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.30094, - "mrr_at_3": 0.34249, - "mrr_at_5": 0.35027, - "mrr_at_10": 0.35325, - "mrr_at_50": 0.35531, - "mrr_at_100": 0.35541, - "mrr_at_1000": 0.35541 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.58736, - "ndcg_at_3": 0.54651, - "ndcg_at_5": 0.53838, - "ndcg_at_10": 0.54852, - "ndcg_at_50": 0.57279, - "ndcg_at_100": 0.57395, - "ndcg_at_1000": 0.57395, - "map_at_1": 0.25114, - "map_at_3": 0.38157, - "map_at_5": 0.43181, - "map_at_10": 0.47302, - "map_at_50": 0.48825, - "map_at_100": 0.4885, - "map_at_1000": 0.4885, - "recall_at_1": 0.25114, - "recall_at_3": 0.41509, - "recall_at_5": 0.49047, - "recall_at_10": 0.56851, - "recall_at_50": 0.63158, - "recall_at_100": 0.63614, - "recall_at_1000": 0.63614, - "precision_at_1": 0.58736, - "precision_at_3": 0.41326, - "precision_at_5": 0.32429, - "precision_at_10": 0.20669, - "precision_at_50": 0.04788, - "precision_at_100": 0.02413, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.58736, - "mrr_at_3": 0.64137, - "mrr_at_5": 0.64893, - "mrr_at_10": 0.65332, - "mrr_at_50": 0.65466, - "mrr_at_100": 0.65468, - "mrr_at_1000": 0.65468 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.74869, - "ndcg_at_3": 0.69748, - "ndcg_at_5": 0.67711, - "ndcg_at_10": 0.69087, - "ndcg_at_50": 0.7344, - "ndcg_at_100": 0.73604, - "ndcg_at_1000": 0.73604, - "map_at_1": 0.2069, - "map_at_3": 0.39812, - "map_at_5": 0.49522, - "map_at_10": 0.59108, - "map_at_50": 0.62383, - "map_at_100": 0.62422, - "map_at_1000": 0.62422, - "recall_at_1": 0.2069, - "recall_at_3": 0.42842, - "recall_at_5": 0.55597, - "recall_at_10": 0.70845, - "recall_at_50": 0.81242, - "recall_at_100": 0.81887, - "recall_at_1000": 0.81887, - "precision_at_1": 0.74869, - "precision_at_3": 0.61613, - "precision_at_5": 0.52091, - "precision_at_10": 0.3595, - "precision_at_50": 0.0844, - "precision_at_100": 0.04248, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.74885, - "mrr_at_3": 0.8015, - "mrr_at_5": 0.80864, - "mrr_at_10": 0.81198, - "mrr_at_50": 0.81308, - "mrr_at_100": 0.81311, - "mrr_at_1000": 0.81311 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.62332, - "ndcg_at_3": 0.57136, - "ndcg_at_5": 0.57821, - "ndcg_at_10": 0.61098, - "ndcg_at_50": 0.63879, - "ndcg_at_100": 0.64017, - "ndcg_at_1000": 0.64017, - "map_at_1": 0.27356, - "map_at_3": 0.43289, - "map_at_5": 0.4808, - "map_at_10": 0.5171, - "map_at_50": 0.53122, - "map_at_100": 0.53147, - "map_at_1000": 0.53147, - "recall_at_1": 0.27356, - "recall_at_3": 0.4858, - "recall_at_5": 0.57401, - "recall_at_10": 0.67039, - "recall_at_50": 0.75159, - "recall_at_100": 0.75763, - "recall_at_1000": 0.75763, - "precision_at_1": 0.62332, - "precision_at_3": 0.42804, - "precision_at_5": 0.32138, - "precision_at_10": 0.19684, - "precision_at_50": 0.04511, - "precision_at_100": 0.02274, - "precision_at_1000": 0.00227, - "mrr_at_1": 0.62332, - "mrr_at_3": 0.69459, - "mrr_at_5": 0.70461, - "mrr_at_10": 0.71099, - "mrr_at_50": 0.71226, - "mrr_at_100": 0.71231, - "mrr_at_1000": 0.71231 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.52871, - "ndcg_at_3": 0.53986, - "ndcg_at_5": 0.5493, - "ndcg_at_10": 0.56456, - "ndcg_at_50": 0.57986, - "ndcg_at_100": 0.58094, - "ndcg_at_1000": 0.58094, - "map_at_1": 0.3296, - "map_at_3": 0.459, - "map_at_5": 0.4918, - "map_at_10": 0.51327, - "map_at_50": 0.52107, - "map_at_100": 0.52117, - "map_at_1000": 0.52117, - "recall_at_1": 0.3296, - "recall_at_3": 0.51012, - "recall_at_5": 0.57067, - "recall_at_10": 0.62093, - "recall_at_50": 0.66929, - "recall_at_100": 0.67565, - "recall_at_1000": 0.67565, - "precision_at_1": 0.52871, - "precision_at_3": 0.33186, - "precision_at_5": 0.24063, - "precision_at_10": 0.14132, - "precision_at_50": 0.03119, - "precision_at_100": 0.01567, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.52871, - "mrr_at_3": 0.58475, - "mrr_at_5": 0.59113, - "mrr_at_10": 0.59394, - "mrr_at_50": 0.59544, - "mrr_at_100": 0.59553, - "mrr_at_1000": 0.59553 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.73075, - "ndcg_at_3": 0.65814, - "ndcg_at_5": 0.66313, - "ndcg_at_10": 0.67803, - "ndcg_at_50": 0.68736, - "ndcg_at_100": 0.68799, - "ndcg_at_1000": 0.68799, - "map_at_1": 0.42514, - "map_at_3": 0.5563, - "map_at_5": 0.59083, - "map_at_10": 0.60944, - "map_at_50": 0.61417, - "map_at_100": 0.61426, - "map_at_1000": 0.61426, - "recall_at_1": 0.42514, - "recall_at_3": 0.59157, - "recall_at_5": 0.65094, - "recall_at_10": 0.69661, - "recall_at_50": 0.72422, - "recall_at_100": 0.72745, - "recall_at_1000": 0.72745, - "precision_at_1": 0.73075, - "precision_at_3": 0.40687, - "precision_at_5": 0.28767, - "precision_at_10": 0.16155, - "precision_at_50": 0.03424, - "precision_at_100": 0.01719, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.73075, - "mrr_at_3": 0.77688, - "mrr_at_5": 0.78142, - "mrr_at_10": 0.78356, - "mrr_at_50": 0.7842, - "mrr_at_100": 0.78423, - "mrr_at_1000": 0.78423 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.54131, - "ndcg_at_3": 0.49074, - "ndcg_at_5": 0.4949, - "ndcg_at_10": 0.5262, - "ndcg_at_50": 0.55628, - "ndcg_at_100": 0.55764, - "ndcg_at_1000": 0.55764, - "map_at_1": 0.22673, - "map_at_3": 0.34673, - "map_at_5": 0.39181, - "map_at_10": 0.42818, - "map_at_50": 0.44264, - "map_at_100": 0.44285, - "map_at_1000": 0.44285, - "recall_at_1": 0.22673, - "recall_at_3": 0.39979, - "recall_at_5": 0.48343, - "recall_at_10": 0.58209, - "recall_at_50": 0.66964, - "recall_at_100": 0.67634, - "recall_at_1000": 0.67634, - "precision_at_1": 0.54131, - "precision_at_3": 0.37223, - "precision_at_5": 0.28816, - "precision_at_10": 0.18174, - "precision_at_50": 0.04268, - "precision_at_100": 0.02149, - "precision_at_1000": 0.00215, - "mrr_at_1": 0.54131, - "mrr_at_3": 0.62026, - "mrr_at_5": 0.62996, - "mrr_at_10": 0.63573, - "mrr_at_50": 0.63792, - "mrr_at_100": 0.63799, - "mrr_at_1000": 0.63799 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.6116, - "ndcg_at_3": 0.55507, - "ndcg_at_5": 0.54715, - "ndcg_at_10": 0.56054, - "ndcg_at_50": 0.5802, - "ndcg_at_100": 0.58114, - "ndcg_at_1000": 0.58114, - "map_at_1": 0.28571, - "map_at_3": 0.40227, - "map_at_5": 0.44516, - "map_at_10": 0.4779, - "map_at_50": 0.48939, - "map_at_100": 0.48956, - "map_at_1000": 0.48956, - "recall_at_1": 0.28571, - "recall_at_3": 0.44152, - "recall_at_5": 0.51188, - "recall_at_10": 0.58076, - "recall_at_50": 0.63126, - "recall_at_100": 0.6352, - "recall_at_1000": 0.6352, - "precision_at_1": 0.6116, - "precision_at_3": 0.39445, - "precision_at_5": 0.30135, - "precision_at_10": 0.18547, - "precision_at_50": 0.04197, - "precision_at_100": 0.02112, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.6116, - "mrr_at_3": 0.67116, - "mrr_at_5": 0.67904, - "mrr_at_10": 0.68236, - "mrr_at_50": 0.68346, - "mrr_at_100": 0.68348, - "mrr_at_1000": 0.68348 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.73699, - "ndcg_at_3": 0.68486, - "ndcg_at_5": 0.67437, - "ndcg_at_10": 0.71572, - "ndcg_at_50": 0.76086, - "ndcg_at_100": 0.7626, - "ndcg_at_1000": 0.7626, - "map_at_1": 0.2472, - "map_at_3": 0.46665, - "map_at_5": 0.54721, - "map_at_10": 0.61631, - "map_at_50": 0.64429, - "map_at_100": 0.6447, - "map_at_1000": 0.6447, - "recall_at_1": 0.2472, - "recall_at_3": 0.51029, - "recall_at_5": 0.62714, - "recall_at_10": 0.77008, - "recall_at_50": 0.89222, - "recall_at_100": 0.89872, - "recall_at_1000": 0.89872, - "precision_at_1": 0.73699, - "precision_at_3": 0.58092, - "precision_at_5": 0.45838, - "precision_at_10": 0.29451, - "precision_at_50": 0.06902, - "precision_at_100": 0.0348, - "precision_at_1000": 0.00348, - "mrr_at_1": 0.73699, - "mrr_at_3": 0.79672, - "mrr_at_5": 0.80467, - "mrr_at_10": 0.80899, - "mrr_at_50": 0.81118, - "mrr_at_100": 0.81118, - "mrr_at_1000": 0.81118 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.70571, - "ndcg_at_3": 0.66488, - "ndcg_at_5": 0.65975, - "ndcg_at_10": 0.70295, - "ndcg_at_50": 0.7492, - "ndcg_at_100": 0.75019, - "ndcg_at_1000": 0.75019, - "map_at_1": 0.21511, - "map_at_3": 0.41597, - "map_at_5": 0.51169, - "map_at_10": 0.60373, - "map_at_50": 0.63421, - "map_at_100": 0.63438, - "map_at_1000": 0.63438, - "recall_at_1": 0.21511, - "recall_at_3": 0.45518, - "recall_at_5": 0.58857, - "recall_at_10": 0.75213, - "recall_at_50": 0.87646, - "recall_at_100": 0.88072, - "recall_at_1000": 0.88072, - "precision_at_1": 0.70571, - "precision_at_3": 0.58559, - "precision_at_5": 0.49189, - "precision_at_10": 0.33303, - "precision_at_50": 0.07682, - "precision_at_100": 0.03853, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.70571, - "mrr_at_3": 0.77628, - "mrr_at_5": 0.78453, - "mrr_at_10": 0.78922, - "mrr_at_50": 0.79065, - "mrr_at_100": 0.79065, - "mrr_at_1000": 0.79065 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.77515, - "ndcg_at_3": 0.71672, - "ndcg_at_5": 0.70953, - "ndcg_at_10": 0.74445, - "ndcg_at_50": 0.7781, - "ndcg_at_100": 0.77924, - "ndcg_at_1000": 0.77924, - "map_at_1": 0.24549, - "map_at_3": 0.46174, - "map_at_5": 0.5587, - "map_at_10": 0.64683, - "map_at_50": 0.67062, - "map_at_100": 0.6709, - "map_at_1000": 0.6709, - "recall_at_1": 0.24549, - "recall_at_3": 0.50234, - "recall_at_5": 0.6426, - "recall_at_10": 0.79369, - "recall_at_50": 0.87591, - "recall_at_100": 0.88025, - "recall_at_1000": 0.88025, - "precision_at_1": 0.77515, - "precision_at_3": 0.61045, - "precision_at_5": 0.50237, - "precision_at_10": 0.33669, - "precision_at_50": 0.07639, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.77515, - "mrr_at_3": 0.82446, - "mrr_at_5": 0.83304, - "mrr_at_10": 0.8354, - "mrr_at_50": 0.83634, - "mrr_at_100": 0.83634, - "mrr_at_1000": 0.83634 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.80826, - "ndcg_at_3": 0.72703, - "ndcg_at_5": 0.73374, - "ndcg_at_10": 0.78187, - "ndcg_at_50": 0.82008, - "ndcg_at_100": 0.82114, - "ndcg_at_1000": 0.82114, - "map_at_1": 0.28593, - "map_at_3": 0.51699, - "map_at_5": 0.60938, - "map_at_10": 0.68736, - "map_at_50": 0.71256, - "map_at_100": 0.71285, - "map_at_1000": 0.71285, - "recall_at_1": 0.28593, - "recall_at_3": 0.55159, - "recall_at_5": 0.6879, - "recall_at_10": 0.83467, - "recall_at_50": 0.93391, - "recall_at_100": 0.938, - "recall_at_1000": 0.938, - "precision_at_1": 0.80826, - "precision_at_3": 0.60767, - "precision_at_5": 0.49027, - "precision_at_10": 0.31829, - "precision_at_50": 0.07298, - "precision_at_100": 0.03667, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.80826, - "mrr_at_3": 0.85546, - "mrr_at_5": 0.86475, - "mrr_at_10": 0.86659, - "mrr_at_50": 0.86756, - "mrr_at_100": 0.86756, - "mrr_at_1000": 0.86756 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.85598, - "ndcg_at_3": 0.77436, - "ndcg_at_5": 0.76326, - "ndcg_at_10": 0.80655, - "ndcg_at_50": 0.85239, - "ndcg_at_100": 0.85353, - "ndcg_at_1000": 0.85353, - "map_at_1": 0.31046, - "map_at_3": 0.53788, - "map_at_5": 0.62942, - "map_at_10": 0.71385, - "map_at_50": 0.74534, - "map_at_100": 0.74562, - "map_at_1000": 0.74562, - "recall_at_1": 0.31046, - "recall_at_3": 0.56605, - "recall_at_5": 0.69583, - "recall_at_10": 0.84043, - "recall_at_50": 0.95494, - "recall_at_100": 0.95929, - "recall_at_1000": 0.95929, - "precision_at_1": 0.85598, - "precision_at_3": 0.63134, - "precision_at_5": 0.50707, - "precision_at_10": 0.33234, - "precision_at_50": 0.07761, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.85598, - "mrr_at_3": 0.89946, - "mrr_at_5": 0.90448, - "mrr_at_10": 0.90563, - "mrr_at_50": 0.90648, - "mrr_at_100": 0.90648, - "mrr_at_1000": 0.90648 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66667, - "ndcg_at_3": 0.6231, - "ndcg_at_5": 0.63888, - "ndcg_at_10": 0.67491, - "ndcg_at_50": 0.71532, - "ndcg_at_100": 0.71821, - "ndcg_at_1000": 0.71821, - "map_at_1": 0.29176, - "map_at_3": 0.47222, - "map_at_5": 0.5442, - "map_at_10": 0.58901, - "map_at_50": 0.60998, - "map_at_100": 0.61041, - "map_at_1000": 0.61041, - "recall_at_1": 0.29176, - "recall_at_3": 0.51963, - "recall_at_5": 0.63553, - "recall_at_10": 0.73794, - "recall_at_50": 0.85482, - "recall_at_100": 0.86906, - "recall_at_1000": 0.86906, - "precision_at_1": 0.66667, - "precision_at_3": 0.46825, - "precision_at_5": 0.37321, - "precision_at_10": 0.23125, - "precision_at_50": 0.05494, - "precision_at_100": 0.0278, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.66667, - "mrr_at_3": 0.73363, - "mrr_at_5": 0.74137, - "mrr_at_10": 0.74687, - "mrr_at_50": 0.7491, - "mrr_at_100": 0.74926, - "mrr_at_1000": 0.74926 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.68451, - "ndcg_at_3": 0.6571, - "ndcg_at_5": 0.67244, - "ndcg_at_10": 0.72987, - "ndcg_at_50": 0.76061, - "ndcg_at_100": 0.76193, - "ndcg_at_1000": 0.76193, - "map_at_1": 0.33844, - "map_at_3": 0.52437, - "map_at_5": 0.57775, - "map_at_10": 0.62885, - "map_at_50": 0.64577, - "map_at_100": 0.646, - "map_at_1000": 0.646, - "recall_at_1": 0.33844, - "recall_at_3": 0.60087, - "recall_at_5": 0.69458, - "recall_at_10": 0.82813, - "recall_at_50": 0.9151, - "recall_at_100": 0.92139, - "recall_at_1000": 0.92139, - "precision_at_1": 0.68451, - "precision_at_3": 0.4723, - "precision_at_5": 0.34817, - "precision_at_10": 0.22113, - "precision_at_50": 0.05042, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.68451, - "mrr_at_3": 0.78357, - "mrr_at_5": 0.78892, - "mrr_at_10": 0.79308, - "mrr_at_50": 0.79404, - "mrr_at_100": 0.79407, - "mrr_at_1000": 0.79407 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.73389, - "ndcg_at_3": 0.64771, - "ndcg_at_5": 0.67849, - "ndcg_at_10": 0.72369, - "ndcg_at_50": 0.76508, - "ndcg_at_100": 0.76587, - "ndcg_at_1000": 0.76587, - "map_at_1": 0.35624, - "map_at_3": 0.52421, - "map_at_5": 0.58665, - "map_at_10": 0.62861, - "map_at_50": 0.64829, - "map_at_100": 0.64839, - "map_at_1000": 0.64839, - "recall_at_1": 0.35624, - "recall_at_3": 0.57619, - "recall_at_5": 0.69542, - "recall_at_10": 0.79942, - "recall_at_50": 0.92262, - "recall_at_100": 0.92692, - "recall_at_1000": 0.92692, - "precision_at_1": 0.73389, - "precision_at_3": 0.44911, - "precision_at_5": 0.3451, - "precision_at_10": 0.21261, - "precision_at_50": 0.05036, - "precision_at_100": 0.02527, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.73389, - "mrr_at_3": 0.79318, - "mrr_at_5": 0.80593, - "mrr_at_10": 0.80895, - "mrr_at_50": 0.81139, - "mrr_at_100": 0.81142, - "mrr_at_1000": 0.81142 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.71237, - "ndcg_at_3": 0.65796, - "ndcg_at_5": 0.67372, - "ndcg_at_10": 0.71878, - "ndcg_at_50": 0.74501, - "ndcg_at_100": 0.74654, - "ndcg_at_1000": 0.74654, - "map_at_1": 0.37581, - "map_at_3": 0.53846, - "map_at_5": 0.58876, - "map_at_10": 0.62783, - "map_at_50": 0.64184, - "map_at_100": 0.64208, - "map_at_1000": 0.64208, - "recall_at_1": 0.37581, - "recall_at_3": 0.58735, - "recall_at_5": 0.68231, - "recall_at_10": 0.78718, - "recall_at_50": 0.86156, - "recall_at_100": 0.86893, - "recall_at_1000": 0.86893, - "precision_at_1": 0.71237, - "precision_at_3": 0.44624, - "precision_at_5": 0.33333, - "precision_at_10": 0.20323, - "precision_at_50": 0.04613, - "precision_at_100": 0.02325, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.71505, - "mrr_at_3": 0.78763, - "mrr_at_5": 0.79637, - "mrr_at_10": 0.79885, - "mrr_at_50": 0.79962, - "mrr_at_100": 0.79967, - "mrr_at_1000": 0.79967 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.61749, - "ndcg_at_3": 0.59341, - "ndcg_at_5": 0.60513, - "ndcg_at_10": 0.64624, - "ndcg_at_50": 0.70529, - "ndcg_at_100": 0.70737, - "ndcg_at_1000": 0.70737, - "map_at_1": 0.26263, - "map_at_3": 0.44381, - "map_at_5": 0.50115, - "map_at_10": 0.54752, - "map_at_50": 0.57644, - "map_at_100": 0.5769, - "map_at_1000": 0.5769, - "recall_at_1": 0.26263, - "recall_at_3": 0.5046, - "recall_at_5": 0.60735, - "recall_at_10": 0.71296, - "recall_at_50": 0.89283, - "recall_at_100": 0.90128, - "recall_at_1000": 0.90128, - "precision_at_1": 0.61749, - "precision_at_3": 0.45993, - "precision_at_5": 0.35683, - "precision_at_10": 0.22459, - "precision_at_50": 0.05667, - "precision_at_100": 0.02866, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.61749, - "mrr_at_3": 0.71721, - "mrr_at_5": 0.72486, - "mrr_at_10": 0.72748, - "mrr_at_50": 0.73078, - "mrr_at_100": 0.73083, - "mrr_at_1000": 0.73083 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.62703, - "ndcg_at_3": 0.62249, - "ndcg_at_5": 0.67176, - "ndcg_at_10": 0.71908, - "ndcg_at_50": 0.75403, - "ndcg_at_100": 0.75699, - "ndcg_at_1000": 0.75699, - "map_at_1": 0.35227, - "map_at_3": 0.52335, - "map_at_5": 0.58686, - "map_at_10": 0.62859, - "map_at_50": 0.64433, - "map_at_100": 0.64478, - "map_at_1000": 0.64478, - "recall_at_1": 0.35227, - "recall_at_3": 0.60017, - "recall_at_5": 0.73842, - "recall_at_10": 0.84774, - "recall_at_50": 0.96117, - "recall_at_100": 0.97392, - "recall_at_1000": 0.97392, - "precision_at_1": 0.62703, - "precision_at_3": 0.41081, - "precision_at_5": 0.32216, - "precision_at_10": 0.19784, - "precision_at_50": 0.04546, - "precision_at_100": 0.02316, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.62703, - "mrr_at_3": 0.71577, - "mrr_at_5": 0.73185, - "mrr_at_10": 0.73555, - "mrr_at_50": 0.73866, - "mrr_at_100": 0.73876, - "mrr_at_1000": 0.73876 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.5092, - "ndcg_at_3": 0.55932, - "ndcg_at_5": 0.59858, - "ndcg_at_10": 0.65012, - "ndcg_at_50": 0.67957, - "ndcg_at_100": 0.68141, - "ndcg_at_1000": 0.68141, - "map_at_1": 0.33653, - "map_at_3": 0.47733, - "map_at_5": 0.51938, - "map_at_10": 0.5561, - "map_at_50": 0.56742, - "map_at_100": 0.56767, - "map_at_1000": 0.56767, - "recall_at_1": 0.33653, - "recall_at_3": 0.58717, - "recall_at_5": 0.6813, - "recall_at_10": 0.80335, - "recall_at_50": 0.90685, - "recall_at_100": 0.91656, - "recall_at_1000": 0.91656, - "precision_at_1": 0.5092, - "precision_at_3": 0.33129, - "precision_at_5": 0.25092, - "precision_at_10": 0.15828, - "precision_at_50": 0.03595, - "precision_at_100": 0.01816, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.5092, - "mrr_at_3": 0.63446, - "mrr_at_5": 0.64811, - "mrr_at_10": 0.65411, - "mrr_at_50": 0.65746, - "mrr_at_100": 0.6575, - "mrr_at_1000": 0.6575 - }, - "gpt3": { - "ndcg_at_1": 0.46291, - "ndcg_at_3": 0.52576, - "ndcg_at_5": 0.57131, - "ndcg_at_10": 0.61335, - "ndcg_at_50": 0.65194, - "ndcg_at_100": 0.65681, - "ndcg_at_1000": 0.65681, - "map_at_1": 0.37043, - "map_at_3": 0.47935, - "map_at_5": 0.51325, - "map_at_10": 0.53566, - "map_at_50": 0.54811, - "map_at_100": 0.54861, - "map_at_1000": 0.54861, - "recall_at_1": 0.37043, - "recall_at_3": 0.57221, - "recall_at_5": 0.66815, - "recall_at_10": 0.78017, - "recall_at_50": 0.92458, - "recall_at_100": 0.95326, - "recall_at_1000": 0.95326, - "precision_at_1": 0.46291, - "precision_at_3": 0.25915, - "precision_at_5": 0.1911, - "precision_at_10": 0.11335, - "precision_at_50": 0.02742, - "precision_at_100": 0.01404, - "precision_at_1000": 0.0014, - "mrr_at_1": 0.46291, - "mrr_at_3": 0.56133, - "mrr_at_5": 0.57928, - "mrr_at_10": 0.59152, - "mrr_at_50": 0.59744, - "mrr_at_100": 0.59785, - "mrr_at_1000": 0.59785 - }, - "llm-survey": { - "ndcg_at_1": 0.57983, - "ndcg_at_3": 0.56275, - "ndcg_at_5": 0.58291, - "ndcg_at_10": 0.6247, - "ndcg_at_50": 0.6696, - "ndcg_at_100": 0.6735, - "ndcg_at_1000": 0.6735, - "map_at_1": 0.27322, - "map_at_3": 0.44819, - "map_at_5": 0.49472, - "map_at_10": 0.53296, - "map_at_50": 0.55354, - "map_at_100": 0.55409, - "map_at_1000": 0.55409, - "recall_at_1": 0.27322, - "recall_at_3": 0.51902, - "recall_at_5": 0.61051, - "recall_at_10": 0.71466, - "recall_at_50": 0.85522, - "recall_at_100": 0.87483, - "recall_at_1000": 0.87483, - "precision_at_1": 0.57983, - "precision_at_3": 0.40523, - "precision_at_5": 0.3014, - "precision_at_10": 0.18711, - "precision_at_50": 0.04538, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.57983, - "mrr_at_3": 0.67087, - "mrr_at_5": 0.68137, - "mrr_at_10": 0.68539, - "mrr_at_50": 0.68932, - "mrr_at_100": 0.6895, - "mrr_at_1000": 0.6895 - }, - "gemini": { - "ndcg_at_1": 0.50602, - "ndcg_at_3": 0.64362, - "ndcg_at_5": 0.6654, - "ndcg_at_10": 0.67981, - "ndcg_at_50": 0.70657, - "ndcg_at_100": 0.70925, - "ndcg_at_1000": 0.70925, - "map_at_1": 0.50602, - "map_at_3": 0.61178, - "map_at_5": 0.62403, - "map_at_10": 0.63005, - "map_at_50": 0.6367, - "map_at_100": 0.63696, - "map_at_1000": 0.63696, - "recall_at_1": 0.50602, - "recall_at_3": 0.73494, - "recall_at_5": 0.78715, - "recall_at_10": 0.83133, - "recall_at_50": 0.94378, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.50602, - "precision_at_3": 0.24498, - "precision_at_5": 0.15743, - "precision_at_10": 0.08313, - "precision_at_50": 0.01888, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.50602, - "mrr_at_3": 0.61178, - "mrr_at_5": 0.62403, - "mrr_at_10": 0.63005, - "mrr_at_50": 0.6367, - "mrr_at_100": 0.63696, - "mrr_at_1000": 0.63696 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.29983, - "ndcg_at_3": 0.27039, - "ndcg_at_5": 0.27362, - "ndcg_at_10": 0.28739, - "ndcg_at_50": 0.30409, - "ndcg_at_100": 0.30664, - "ndcg_at_1000": 0.30664, - "map_at_1": 0.10616, - "map_at_3": 0.17413, - "map_at_5": 0.2058, - "map_at_10": 0.23378, - "map_at_50": 0.24201, - "map_at_100": 0.24239, - "map_at_1000": 0.24239, - "recall_at_1": 0.10616, - "recall_at_3": 0.19597, - "recall_at_5": 0.25359, - "recall_at_10": 0.31243, - "recall_at_50": 0.36401, - "recall_at_100": 0.37618, - "recall_at_1000": 0.37618, - "precision_at_1": 0.29983, - "precision_at_3": 0.22062, - "precision_at_5": 0.18112, - "precision_at_10": 0.1206, - "precision_at_50": 0.02786, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.29983, - "mrr_at_3": 0.33852, - "mrr_at_5": 0.34779, - "mrr_at_10": 0.35133, - "mrr_at_50": 0.35314, - "mrr_at_100": 0.35326, - "mrr_at_1000": 0.35326 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.54647, - "ndcg_at_3": 0.5181, - "ndcg_at_5": 0.5169, - "ndcg_at_10": 0.53626, - "ndcg_at_50": 0.55607, - "ndcg_at_100": 0.55771, - "ndcg_at_1000": 0.55771, - "map_at_1": 0.22602, - "map_at_3": 0.35285, - "map_at_5": 0.40388, - "map_at_10": 0.45345, - "map_at_50": 0.46584, - "map_at_100": 0.46616, - "map_at_1000": 0.46616, - "recall_at_1": 0.22602, - "recall_at_3": 0.39709, - "recall_at_5": 0.48121, - "recall_at_10": 0.57503, - "recall_at_50": 0.62921, - "recall_at_100": 0.63614, - "recall_at_1000": 0.63614, - "precision_at_1": 0.54647, - "precision_at_3": 0.39901, - "precision_at_5": 0.3197, - "precision_at_10": 0.21208, - "precision_at_50": 0.04778, - "precision_at_100": 0.02413, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.54647, - "mrr_at_3": 0.61741, - "mrr_at_5": 0.62763, - "mrr_at_10": 0.63163, - "mrr_at_50": 0.63244, - "mrr_at_100": 0.6325, - "mrr_at_1000": 0.6325 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.63633, - "ndcg_at_3": 0.60258, - "ndcg_at_5": 0.59524, - "ndcg_at_10": 0.61939, - "ndcg_at_50": 0.6778, - "ndcg_at_100": 0.68119, - "ndcg_at_1000": 0.68119, - "map_at_1": 0.16869, - "map_at_3": 0.32633, - "map_at_5": 0.41359, - "map_at_10": 0.50746, - "map_at_50": 0.54561, - "map_at_100": 0.54638, - "map_at_1000": 0.54638, - "recall_at_1": 0.16869, - "recall_at_3": 0.36888, - "recall_at_5": 0.49635, - "recall_at_10": 0.65748, - "recall_at_50": 0.80517, - "recall_at_100": 0.81887, - "recall_at_1000": 0.81887, - "precision_at_1": 0.63633, - "precision_at_3": 0.53922, - "precision_at_5": 0.47033, - "precision_at_10": 0.33668, - "precision_at_50": 0.08386, - "precision_at_100": 0.04248, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.63728, - "mrr_at_3": 0.71968, - "mrr_at_5": 0.72965, - "mrr_at_10": 0.73437, - "mrr_at_50": 0.73641, - "mrr_at_100": 0.73648, - "mrr_at_1000": 0.73648 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.54716, - "ndcg_at_3": 0.5065, - "ndcg_at_5": 0.5228, - "ndcg_at_10": 0.55376, - "ndcg_at_50": 0.59053, - "ndcg_at_100": 0.59466, - "ndcg_at_1000": 0.59466, - "map_at_1": 0.2297, - "map_at_3": 0.36645, - "map_at_5": 0.42039, - "map_at_10": 0.45565, - "map_at_50": 0.47072, - "map_at_100": 0.47144, - "map_at_1000": 0.47144, - "recall_at_1": 0.2297, - "recall_at_3": 0.42561, - "recall_at_5": 0.52474, - "recall_at_10": 0.61687, - "recall_at_50": 0.73877, - "recall_at_100": 0.75763, - "recall_at_1000": 0.75763, - "precision_at_1": 0.54716, - "precision_at_3": 0.38918, - "precision_at_5": 0.30697, - "precision_at_10": 0.18752, - "precision_at_50": 0.04442, - "precision_at_100": 0.02274, - "precision_at_1000": 0.00227, - "mrr_at_1": 0.54716, - "mrr_at_3": 0.63923, - "mrr_at_5": 0.64901, - "mrr_at_10": 0.65442, - "mrr_at_50": 0.6575, - "mrr_at_100": 0.65759, - "mrr_at_1000": 0.65759 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.52871, - "ndcg_at_3": 0.53284, - "ndcg_at_5": 0.54271, - "ndcg_at_10": 0.56186, - "ndcg_at_50": 0.57491, - "ndcg_at_100": 0.57593, - "ndcg_at_1000": 0.57593, - "map_at_1": 0.32263, - "map_at_3": 0.44987, - "map_at_5": 0.48372, - "map_at_10": 0.5092, - "map_at_50": 0.51478, - "map_at_100": 0.51491, - "map_at_1000": 0.51491, - "recall_at_1": 0.32263, - "recall_at_3": 0.49684, - "recall_at_5": 0.56048, - "recall_at_10": 0.62319, - "recall_at_50": 0.67022, - "recall_at_100": 0.67565, - "recall_at_1000": 0.67565, - "precision_at_1": 0.52871, - "precision_at_3": 0.33123, - "precision_at_5": 0.24202, - "precision_at_10": 0.14473, - "precision_at_50": 0.03115, - "precision_at_100": 0.01567, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.52871, - "mrr_at_3": 0.58034, - "mrr_at_5": 0.58769, - "mrr_at_10": 0.59067, - "mrr_at_50": 0.59225, - "mrr_at_100": 0.59232, - "mrr_at_1000": 0.59232 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.6271, - "ndcg_at_3": 0.5828, - "ndcg_at_5": 0.60203, - "ndcg_at_10": 0.6227, - "ndcg_at_50": 0.63692, - "ndcg_at_100": 0.63834, - "ndcg_at_1000": 0.63834, - "map_at_1": 0.36091, - "map_at_3": 0.48049, - "map_at_5": 0.52134, - "map_at_10": 0.54331, - "map_at_50": 0.54933, - "map_at_100": 0.54956, - "map_at_1000": 0.54956, - "recall_at_1": 0.36091, - "recall_at_3": 0.533, - "recall_at_5": 0.61608, - "recall_at_10": 0.67414, - "recall_at_50": 0.72089, - "recall_at_100": 0.72745, - "recall_at_1000": 0.72745, - "precision_at_1": 0.6271, - "precision_at_3": 0.36846, - "precision_at_5": 0.27319, - "precision_at_10": 0.15732, - "precision_at_50": 0.03399, - "precision_at_100": 0.01719, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.62768, - "mrr_at_3": 0.69948, - "mrr_at_5": 0.70921, - "mrr_at_10": 0.71245, - "mrr_at_50": 0.71382, - "mrr_at_100": 0.71387, - "mrr_at_1000": 0.71387 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.50838, - "ndcg_at_3": 0.46688, - "ndcg_at_5": 0.47787, - "ndcg_at_10": 0.50811, - "ndcg_at_50": 0.53909, - "ndcg_at_100": 0.54172, - "ndcg_at_1000": 0.54172, - "map_at_1": 0.20851, - "map_at_3": 0.32551, - "map_at_5": 0.37244, - "map_at_10": 0.40934, - "map_at_50": 0.42292, - "map_at_100": 0.42333, - "map_at_1000": 0.42333, - "recall_at_1": 0.20851, - "recall_at_3": 0.38215, - "recall_at_5": 0.47458, - "recall_at_10": 0.56685, - "recall_at_50": 0.66334, - "recall_at_100": 0.67634, - "recall_at_1000": 0.67634, - "precision_at_1": 0.50838, - "precision_at_3": 0.36087, - "precision_at_5": 0.28573, - "precision_at_10": 0.18001, - "precision_at_50": 0.04238, - "precision_at_100": 0.02149, - "precision_at_1000": 0.00215, - "mrr_at_1": 0.50838, - "mrr_at_3": 0.59417, - "mrr_at_5": 0.60771, - "mrr_at_10": 0.61234, - "mrr_at_50": 0.61476, - "mrr_at_100": 0.61486, - "mrr_at_1000": 0.61486 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.54071, - "ndcg_at_3": 0.50809, - "ndcg_at_5": 0.51155, - "ndcg_at_10": 0.52941, - "ndcg_at_50": 0.55083, - "ndcg_at_100": 0.55226, - "ndcg_at_1000": 0.55226, - "map_at_1": 0.25364, - "map_at_3": 0.36054, - "map_at_5": 0.40659, - "map_at_10": 0.44244, - "map_at_50": 0.45317, - "map_at_100": 0.45342, - "map_at_1000": 0.45342, - "recall_at_1": 0.25364, - "recall_at_3": 0.40838, - "recall_at_5": 0.49177, - "recall_at_10": 0.56968, - "recall_at_50": 0.6293, - "recall_at_100": 0.6352, - "recall_at_1000": 0.6352, - "precision_at_1": 0.54071, - "precision_at_3": 0.36673, - "precision_at_5": 0.29244, - "precision_at_10": 0.18301, - "precision_at_50": 0.0418, - "precision_at_100": 0.02112, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.54071, - "mrr_at_3": 0.61746, - "mrr_at_5": 0.62979, - "mrr_at_10": 0.63356, - "mrr_at_50": 0.63513, - "mrr_at_100": 0.63519, - "mrr_at_1000": 0.63519 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.67052, - "ndcg_at_3": 0.61805, - "ndcg_at_5": 0.6312, - "ndcg_at_10": 0.69146, - "ndcg_at_50": 0.72778, - "ndcg_at_100": 0.73249, - "ndcg_at_1000": 0.73249, - "map_at_1": 0.22208, - "map_at_3": 0.4032, - "map_at_5": 0.49366, - "map_at_10": 0.58026, - "map_at_50": 0.60313, - "map_at_100": 0.60379, - "map_at_1000": 0.60379, - "recall_at_1": 0.22208, - "recall_at_3": 0.4508, - "recall_at_5": 0.60192, - "recall_at_10": 0.77514, - "recall_at_50": 0.87389, - "recall_at_100": 0.89872, - "recall_at_1000": 0.89872, - "precision_at_1": 0.67052, - "precision_at_3": 0.52697, - "precision_at_5": 0.44162, - "precision_at_10": 0.30173, - "precision_at_50": 0.06873, - "precision_at_100": 0.0348, - "precision_at_1000": 0.00348, - "mrr_at_1": 0.67052, - "mrr_at_3": 0.75337, - "mrr_at_5": 0.76739, - "mrr_at_10": 0.77117, - "mrr_at_50": 0.77226, - "mrr_at_100": 0.77257, - "mrr_at_1000": 0.77257 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.70571, - "ndcg_at_3": 0.64244, - "ndcg_at_5": 0.64259, - "ndcg_at_10": 0.69392, - "ndcg_at_50": 0.73233, - "ndcg_at_100": 0.73542, - "ndcg_at_1000": 0.73542, - "map_at_1": 0.20112, - "map_at_3": 0.39022, - "map_at_5": 0.48881, - "map_at_10": 0.58626, - "map_at_50": 0.60952, - "map_at_100": 0.60994, - "map_at_1000": 0.60994, - "recall_at_1": 0.20112, - "recall_at_3": 0.43172, - "recall_at_5": 0.57919, - "recall_at_10": 0.7566, - "recall_at_50": 0.8649, - "recall_at_100": 0.88072, - "recall_at_1000": 0.88072, - "precision_at_1": 0.70571, - "precision_at_3": 0.56957, - "precision_at_5": 0.48529, - "precision_at_10": 0.33664, - "precision_at_50": 0.07646, - "precision_at_100": 0.03853, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.70571, - "mrr_at_3": 0.77027, - "mrr_at_5": 0.77823, - "mrr_at_10": 0.78314, - "mrr_at_50": 0.78469, - "mrr_at_100": 0.78483, - "mrr_at_1000": 0.78483 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71006, - "ndcg_at_3": 0.66134, - "ndcg_at_5": 0.66164, - "ndcg_at_10": 0.70744, - "ndcg_at_50": 0.74232, - "ndcg_at_100": 0.74572, - "ndcg_at_1000": 0.74572, - "map_at_1": 0.21279, - "map_at_3": 0.41378, - "map_at_5": 0.50955, - "map_at_10": 0.60488, - "map_at_50": 0.62723, - "map_at_100": 0.6279, - "map_at_1000": 0.6279, - "recall_at_1": 0.21279, - "recall_at_3": 0.45192, - "recall_at_5": 0.59357, - "recall_at_10": 0.77083, - "recall_at_50": 0.86565, - "recall_at_100": 0.88025, - "recall_at_1000": 0.88025, - "precision_at_1": 0.71006, - "precision_at_3": 0.57002, - "precision_at_5": 0.48521, - "precision_at_10": 0.33639, - "precision_at_50": 0.0758, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.71006, - "mrr_at_3": 0.77367, - "mrr_at_5": 0.78314, - "mrr_at_10": 0.78817, - "mrr_at_50": 0.78929, - "mrr_at_100": 0.78934, - "mrr_at_1000": 0.78934 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.72566, - "ndcg_at_3": 0.67234, - "ndcg_at_5": 0.68498, - "ndcg_at_10": 0.73873, - "ndcg_at_50": 0.77968, - "ndcg_at_100": 0.78205, - "ndcg_at_1000": 0.78205, - "map_at_1": 0.23983, - "map_at_3": 0.45462, - "map_at_5": 0.54998, - "map_at_10": 0.6345, - "map_at_50": 0.65881, - "map_at_100": 0.6593, - "map_at_1000": 0.6593, - "recall_at_1": 0.23983, - "recall_at_3": 0.50622, - "recall_at_5": 0.65474, - "recall_at_10": 0.8127, - "recall_at_50": 0.92802, - "recall_at_100": 0.938, - "recall_at_1000": 0.938, - "precision_at_1": 0.72566, - "precision_at_3": 0.57915, - "precision_at_5": 0.47493, - "precision_at_10": 0.31652, - "precision_at_50": 0.07268, - "precision_at_100": 0.03667, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.72566, - "mrr_at_3": 0.80138, - "mrr_at_5": 0.81185, - "mrr_at_10": 0.81469, - "mrr_at_50": 0.81603, - "mrr_at_100": 0.81603, - "mrr_at_1000": 0.81603 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.8125, - "ndcg_at_3": 0.73602, - "ndcg_at_5": 0.74528, - "ndcg_at_10": 0.79783, - "ndcg_at_50": 0.8336, - "ndcg_at_100": 0.83621, - "ndcg_at_1000": 0.83621, - "map_at_1": 0.29531, - "map_at_3": 0.50168, - "map_at_5": 0.60692, - "map_at_10": 0.69922, - "map_at_50": 0.72248, - "map_at_100": 0.72313, - "map_at_1000": 0.72313, - "recall_at_1": 0.29531, - "recall_at_3": 0.53294, - "recall_at_5": 0.69155, - "recall_at_10": 0.85302, - "recall_at_50": 0.95, - "recall_at_100": 0.95929, - "recall_at_1000": 0.95929, - "precision_at_1": 0.8125, - "precision_at_3": 0.60054, - "precision_at_5": 0.50815, - "precision_at_10": 0.34049, - "precision_at_50": 0.07701, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.8125, - "mrr_at_3": 0.87092, - "mrr_at_5": 0.87785, - "mrr_at_10": 0.87921, - "mrr_at_50": 0.87997, - "mrr_at_100": 0.87997, - "mrr_at_1000": 0.87997 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.65179, - "ndcg_at_3": 0.60695, - "ndcg_at_5": 0.62848, - "ndcg_at_10": 0.67393, - "ndcg_at_50": 0.70545, - "ndcg_at_100": 0.70853, - "ndcg_at_1000": 0.70853, - "map_at_1": 0.26899, - "map_at_3": 0.4551, - "map_at_5": 0.52827, - "map_at_10": 0.58464, - "map_at_50": 0.59878, - "map_at_100": 0.59939, - "map_at_1000": 0.59939, - "recall_at_1": 0.26899, - "recall_at_3": 0.50418, - "recall_at_5": 0.62838, - "recall_at_10": 0.75123, - "recall_at_50": 0.85494, - "recall_at_100": 0.86906, - "recall_at_1000": 0.86906, - "precision_at_1": 0.65179, - "precision_at_3": 0.46925, - "precision_at_5": 0.38036, - "precision_at_10": 0.24375, - "precision_at_50": 0.05482, - "precision_at_100": 0.0278, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.65179, - "mrr_at_3": 0.71875, - "mrr_at_5": 0.7314, - "mrr_at_10": 0.73435, - "mrr_at_50": 0.73726, - "mrr_at_100": 0.73736, - "mrr_at_1000": 0.73736 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.63662, - "ndcg_at_3": 0.59567, - "ndcg_at_5": 0.62561, - "ndcg_at_10": 0.68877, - "ndcg_at_50": 0.72271, - "ndcg_at_100": 0.72448, - "ndcg_at_1000": 0.72448, - "map_at_1": 0.2967, - "map_at_3": 0.45945, - "map_at_5": 0.52229, - "map_at_10": 0.57941, - "map_at_50": 0.5952, - "map_at_100": 0.59547, - "map_at_1000": 0.59547, - "recall_at_1": 0.2967, - "recall_at_3": 0.53905, - "recall_at_5": 0.65936, - "recall_at_10": 0.80422, - "recall_at_50": 0.91228, - "recall_at_100": 0.92139, - "recall_at_1000": 0.92139, - "precision_at_1": 0.63662, - "precision_at_3": 0.43568, - "precision_at_5": 0.34085, - "precision_at_10": 0.22197, - "precision_at_50": 0.05037, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.63662, - "mrr_at_3": 0.73709, - "mrr_at_5": 0.74751, - "mrr_at_10": 0.75161, - "mrr_at_50": 0.75382, - "mrr_at_100": 0.75389, - "mrr_at_1000": 0.75389 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.67787, - "ndcg_at_3": 0.6153, - "ndcg_at_5": 0.64135, - "ndcg_at_10": 0.70784, - "ndcg_at_50": 0.74017, - "ndcg_at_100": 0.74179, - "ndcg_at_1000": 0.74179, - "map_at_1": 0.31298, - "map_at_3": 0.48538, - "map_at_5": 0.54327, - "map_at_10": 0.59872, - "map_at_50": 0.61437, - "map_at_100": 0.61462, - "map_at_1000": 0.61462, - "recall_at_1": 0.31298, - "recall_at_3": 0.55259, - "recall_at_5": 0.66831, - "recall_at_10": 0.81987, - "recall_at_50": 0.91862, - "recall_at_100": 0.92692, - "recall_at_1000": 0.92692, - "precision_at_1": 0.67787, - "precision_at_3": 0.44071, - "precision_at_5": 0.33445, - "precision_at_10": 0.21877, - "precision_at_50": 0.05014, - "precision_at_100": 0.02527, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.67787, - "mrr_at_3": 0.75817, - "mrr_at_5": 0.77007, - "mrr_at_10": 0.77625, - "mrr_at_50": 0.77806, - "mrr_at_100": 0.77813, - "mrr_at_1000": 0.77813 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.67742, - "ndcg_at_3": 0.628, - "ndcg_at_5": 0.64014, - "ndcg_at_10": 0.68578, - "ndcg_at_50": 0.71834, - "ndcg_at_100": 0.7217, - "ndcg_at_1000": 0.7217, - "map_at_1": 0.35083, - "map_at_3": 0.50677, - "map_at_5": 0.55318, - "map_at_10": 0.59387, - "map_at_50": 0.60896, - "map_at_100": 0.6095, - "map_at_1000": 0.6095, - "recall_at_1": 0.35083, - "recall_at_3": 0.56083, - "recall_at_5": 0.64871, - "recall_at_10": 0.75203, - "recall_at_50": 0.85302, - "recall_at_100": 0.86893, - "recall_at_1000": 0.86893, - "precision_at_1": 0.67742, - "precision_at_3": 0.43011, - "precision_at_5": 0.31935, - "precision_at_10": 0.19758, - "precision_at_50": 0.04575, - "precision_at_100": 0.02325, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.67742, - "mrr_at_3": 0.75358, - "mrr_at_5": 0.76232, - "mrr_at_10": 0.7657, - "mrr_at_50": 0.76741, - "mrr_at_100": 0.76755, - "mrr_at_1000": 0.76755 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.63115, - "ndcg_at_3": 0.57478, - "ndcg_at_5": 0.60079, - "ndcg_at_10": 0.66589, - "ndcg_at_50": 0.70044, - "ndcg_at_100": 0.70637, - "ndcg_at_1000": 0.70637, - "map_at_1": 0.26243, - "map_at_3": 0.42157, - "map_at_5": 0.49381, - "map_at_10": 0.56333, - "map_at_50": 0.57867, - "map_at_100": 0.5796, - "map_at_1000": 0.5796, - "recall_at_1": 0.26243, - "recall_at_3": 0.46749, - "recall_at_5": 0.59744, - "recall_at_10": 0.75976, - "recall_at_50": 0.87232, - "recall_at_100": 0.90128, - "recall_at_1000": 0.90128, - "precision_at_1": 0.63115, - "precision_at_3": 0.44627, - "precision_at_5": 0.3694, - "precision_at_10": 0.24699, - "precision_at_50": 0.05596, - "precision_at_100": 0.02866, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.63115, - "mrr_at_3": 0.70674, - "mrr_at_5": 0.72382, - "mrr_at_10": 0.72887, - "mrr_at_50": 0.73078, - "mrr_at_100": 0.73099, - "mrr_at_1000": 0.73099 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.56216, - "ndcg_at_3": 0.56648, - "ndcg_at_5": 0.60938, - "ndcg_at_10": 0.68182, - "ndcg_at_50": 0.71918, - "ndcg_at_100": 0.72212, - "ndcg_at_1000": 0.72212, - "map_at_1": 0.32305, - "map_at_3": 0.46923, - "map_at_5": 0.52261, - "map_at_10": 0.57923, - "map_at_50": 0.59528, - "map_at_100": 0.5957, - "map_at_1000": 0.5957, - "recall_at_1": 0.32305, - "recall_at_3": 0.54433, - "recall_at_5": 0.6664, - "recall_at_10": 0.83192, - "recall_at_50": 0.95883, - "recall_at_100": 0.97392, - "recall_at_1000": 0.97392, - "precision_at_1": 0.56216, - "precision_at_3": 0.37387, - "precision_at_5": 0.29405, - "precision_at_10": 0.19865, - "precision_at_50": 0.04578, - "precision_at_100": 0.02316, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.56216, - "mrr_at_3": 0.66892, - "mrr_at_5": 0.68541, - "mrr_at_10": 0.69296, - "mrr_at_50": 0.69602, - "mrr_at_100": 0.69619, - "mrr_at_1000": 0.69619 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.44785, - "ndcg_at_3": 0.47415, - "ndcg_at_5": 0.5259, - "ndcg_at_10": 0.58732, - "ndcg_at_50": 0.62436, - "ndcg_at_100": 0.62807, - "ndcg_at_1000": 0.62807, - "map_at_1": 0.2761, - "map_at_3": 0.40204, - "map_at_5": 0.44745, - "map_at_10": 0.49057, - "map_at_50": 0.50362, - "map_at_100": 0.50411, - "map_at_1000": 0.50411, - "recall_at_1": 0.2761, - "recall_at_3": 0.48927, - "recall_at_5": 0.6143, - "recall_at_10": 0.76221, - "recall_at_50": 0.89765, - "recall_at_100": 0.91656, - "recall_at_1000": 0.91656, - "precision_at_1": 0.44785, - "precision_at_3": 0.29346, - "precision_at_5": 0.23252, - "precision_at_10": 0.15337, - "precision_at_50": 0.03558, - "precision_at_100": 0.01816, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.44785, - "mrr_at_3": 0.55112, - "mrr_at_5": 0.57214, - "mrr_at_10": 0.58206, - "mrr_at_50": 0.58711, - "mrr_at_100": 0.58724, - "mrr_at_1000": 0.58724 - }, - "gpt3": { - "ndcg_at_1": 0.42433, - "ndcg_at_3": 0.49453, - "ndcg_at_5": 0.53744, - "ndcg_at_10": 0.58182, - "ndcg_at_50": 0.62376, - "ndcg_at_100": 0.62718, - "ndcg_at_1000": 0.62718, - "map_at_1": 0.33037, - "map_at_3": 0.44358, - "map_at_5": 0.47287, - "map_at_10": 0.49582, - "map_at_50": 0.50802, - "map_at_100": 0.50835, - "map_at_1000": 0.50835, - "recall_at_1": 0.33037, - "recall_at_3": 0.55193, - "recall_at_5": 0.64565, - "recall_at_10": 0.76484, - "recall_at_50": 0.93299, - "recall_at_100": 0.95326, - "recall_at_1000": 0.95326, - "precision_at_1": 0.42433, - "precision_at_3": 0.25124, - "precision_at_5": 0.1822, - "precision_at_10": 0.11157, - "precision_at_50": 0.0276, - "precision_at_100": 0.01404, - "precision_at_1000": 0.0014, - "mrr_at_1": 0.42433, - "mrr_at_3": 0.53116, - "mrr_at_5": 0.54955, - "mrr_at_10": 0.56245, - "mrr_at_50": 0.56784, - "mrr_at_100": 0.5681, - "mrr_at_1000": 0.5681 - }, - "llm-survey": { - "ndcg_at_1": 0.45378, - "ndcg_at_3": 0.4504, - "ndcg_at_5": 0.48325, - "ndcg_at_10": 0.54343, - "ndcg_at_50": 0.59646, - "ndcg_at_100": 0.60146, - "ndcg_at_1000": 0.60146, - "map_at_1": 0.20897, - "map_at_3": 0.34427, - "map_at_5": 0.39357, - "map_at_10": 0.44307, - "map_at_50": 0.4649, - "map_at_100": 0.46553, - "map_at_1000": 0.46553, - "recall_at_1": 0.20897, - "recall_at_3": 0.40796, - "recall_at_5": 0.51687, - "recall_at_10": 0.66842, - "recall_at_50": 0.84798, - "recall_at_100": 0.87483, - "recall_at_1000": 0.87483, - "precision_at_1": 0.45378, - "precision_at_3": 0.3408, - "precision_at_5": 0.27171, - "precision_at_10": 0.18151, - "precision_at_50": 0.04527, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.45378, - "mrr_at_3": 0.54995, - "mrr_at_5": 0.5662, - "mrr_at_10": 0.57619, - "mrr_at_50": 0.58084, - "mrr_at_100": 0.58114, - "mrr_at_1000": 0.58114 - }, - "gemini": { - "ndcg_at_1": 0.40161, - "ndcg_at_3": 0.54059, - "ndcg_at_5": 0.56392, - "ndcg_at_10": 0.5871, - "ndcg_at_50": 0.62761, - "ndcg_at_100": 0.62958, - "ndcg_at_1000": 0.62958, - "map_at_1": 0.40161, - "map_at_3": 0.50669, - "map_at_5": 0.51975, - "map_at_10": 0.5292, - "map_at_50": 0.53818, - "map_at_100": 0.53836, - "map_at_1000": 0.53836, - "recall_at_1": 0.40161, - "recall_at_3": 0.63855, - "recall_at_5": 0.69478, - "recall_at_10": 0.76707, - "recall_at_50": 0.94779, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.40161, - "precision_at_3": 0.21285, - "precision_at_5": 0.13896, - "precision_at_10": 0.07671, - "precision_at_50": 0.01896, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.40161, - "mrr_at_3": 0.50669, - "mrr_at_5": 0.51975, - "mrr_at_10": 0.5292, - "mrr_at_50": 0.53818, - "mrr_at_100": 0.53837, - "mrr_at_1000": 0.53837 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.13048, - "ndcg_at_3": 0.12188, - "ndcg_at_5": 0.12906, - "ndcg_at_10": 0.14799, - "ndcg_at_50": 0.19251, - "ndcg_at_100": 0.2064, - "ndcg_at_1000": 0.24263, - "map_at_1": 0.04499, - "map_at_3": 0.07549, - "map_at_5": 0.08993, - "map_at_10": 0.10692, - "map_at_50": 0.12293, - "map_at_100": 0.12501, - "map_at_1000": 0.12689, - "recall_at_1": 0.04499, - "recall_at_3": 0.09438, - "recall_at_5": 0.12835, - "recall_at_10": 0.18352, - "recall_at_50": 0.31775, - "recall_at_100": 0.37618, - "recall_at_1000": 0.59566, - "precision_at_1": 0.13048, - "precision_at_3": 0.0992, - "precision_at_5": 0.08673, - "precision_at_10": 0.06613, - "precision_at_50": 0.02408, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.13048, - "mrr_at_3": 0.16297, - "mrr_at_5": 0.17346, - "mrr_at_10": 0.18122, - "mrr_at_50": 0.18771, - "mrr_at_100": 0.18842, - "mrr_at_1000": 0.18917 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.29678, - "ndcg_at_3": 0.29315, - "ndcg_at_5": 0.30928, - "ndcg_at_10": 0.33739, - "ndcg_at_50": 0.39868, - "ndcg_at_100": 0.41359, - "ndcg_at_1000": 0.44423, - "map_at_1": 0.12939, - "map_at_3": 0.19684, - "map_at_5": 0.22901, - "map_at_10": 0.25932, - "map_at_50": 0.28521, - "map_at_100": 0.28773, - "map_at_1000": 0.2897, - "recall_at_1": 0.12939, - "recall_at_3": 0.23921, - "recall_at_5": 0.31421, - "recall_at_10": 0.40221, - "recall_at_50": 0.57609, - "recall_at_100": 0.63614, - "recall_at_1000": 0.80989, - "precision_at_1": 0.29678, - "precision_at_3": 0.21747, - "precision_at_5": 0.18736, - "precision_at_10": 0.13569, - "precision_at_50": 0.04323, - "precision_at_100": 0.02413, - "precision_at_1000": 0.00302, - "mrr_at_1": 0.29678, - "mrr_at_3": 0.36886, - "mrr_at_5": 0.39051, - "mrr_at_10": 0.40086, - "mrr_at_50": 0.40722, - "mrr_at_100": 0.40779, - "mrr_at_1000": 0.40821 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.56528, - "ndcg_at_3": 0.51169, - "ndcg_at_5": 0.49287, - "ndcg_at_10": 0.51112, - "ndcg_at_50": 0.59847, - "ndcg_at_100": 0.61511, - "ndcg_at_1000": 0.63685, - "map_at_1": 0.15516, - "map_at_3": 0.28094, - "map_at_5": 0.33913, - "map_at_10": 0.40196, - "map_at_50": 0.4491, - "map_at_100": 0.45271, - "map_at_1000": 0.45467, - "recall_at_1": 0.15516, - "recall_at_3": 0.31329, - "recall_at_5": 0.40431, - "recall_at_10": 0.53531, - "recall_at_50": 0.7574, - "recall_at_100": 0.81887, - "recall_at_1000": 0.92879, - "precision_at_1": 0.56528, - "precision_at_3": 0.44532, - "precision_at_5": 0.37019, - "precision_at_10": 0.26398, - "precision_at_50": 0.07863, - "precision_at_100": 0.04248, - "precision_at_1000": 0.00473, - "mrr_at_1": 0.56528, - "mrr_at_3": 0.63604, - "mrr_at_5": 0.64842, - "mrr_at_10": 0.65667, - "mrr_at_50": 0.6609, - "mrr_at_100": 0.66117, - "mrr_at_1000": 0.66133 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.48389, - "ndcg_at_3": 0.4337, - "ndcg_at_5": 0.44304, - "ndcg_at_10": 0.47326, - "ndcg_at_50": 0.52851, - "ndcg_at_100": 0.54153, - "ndcg_at_1000": 0.56579, - "map_at_1": 0.21405, - "map_at_3": 0.3225, - "map_at_5": 0.35711, - "map_at_10": 0.38262, - "map_at_50": 0.40343, - "map_at_100": 0.40561, - "map_at_1000": 0.40716, - "recall_at_1": 0.21405, - "recall_at_3": 0.36943, - "recall_at_5": 0.4434, - "recall_at_10": 0.52933, - "recall_at_50": 0.70104, - "recall_at_100": 0.75763, - "recall_at_1000": 0.90194, - "precision_at_1": 0.48389, - "precision_at_3": 0.31713, - "precision_at_5": 0.2403, - "precision_at_10": 0.15056, - "precision_at_50": 0.0418, - "precision_at_100": 0.02274, - "precision_at_1000": 0.0027, - "mrr_at_1": 0.48389, - "mrr_at_3": 0.55741, - "mrr_at_5": 0.56963, - "mrr_at_10": 0.57834, - "mrr_at_50": 0.58374, - "mrr_at_100": 0.5842, - "mrr_at_1000": 0.58447 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.36404, - "ndcg_at_3": 0.37397, - "ndcg_at_5": 0.39053, - "ndcg_at_10": 0.41421, - "ndcg_at_50": 0.4547, - "ndcg_at_100": 0.4652, - "ndcg_at_1000": 0.48791, - "map_at_1": 0.23135, - "map_at_3": 0.31491, - "map_at_5": 0.33843, - "map_at_10": 0.35722, - "map_at_50": 0.37198, - "map_at_100": 0.37348, - "map_at_1000": 0.37456, - "recall_at_1": 0.23135, - "recall_at_3": 0.36171, - "recall_at_5": 0.42154, - "recall_at_10": 0.48913, - "recall_at_50": 0.62463, - "recall_at_100": 0.67565, - "recall_at_1000": 0.83437, - "precision_at_1": 0.36404, - "precision_at_3": 0.22082, - "precision_at_5": 0.16568, - "precision_at_10": 0.10461, - "precision_at_50": 0.02882, - "precision_at_100": 0.01567, - "precision_at_1000": 0.00188, - "mrr_at_1": 0.36341, - "mrr_at_3": 0.41767, - "mrr_at_5": 0.4317, - "mrr_at_10": 0.43902, - "mrr_at_50": 0.44387, - "mrr_at_100": 0.4444, - "mrr_at_1000": 0.44487 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.57556, - "ndcg_at_3": 0.50286, - "ndcg_at_5": 0.51074, - "ndcg_at_10": 0.53546, - "ndcg_at_50": 0.5711, - "ndcg_at_100": 0.57883, - "ndcg_at_1000": 0.5975, - "map_at_1": 0.33436, - "map_at_3": 0.41389, - "map_at_5": 0.4355, - "map_at_10": 0.454, - "map_at_50": 0.46716, - "map_at_100": 0.46835, - "map_at_1000": 0.46943, - "recall_at_1": 0.33436, - "recall_at_3": 0.45741, - "recall_at_5": 0.51112, - "recall_at_10": 0.57885, - "recall_at_50": 0.69348, - "recall_at_100": 0.72745, - "recall_at_1000": 0.83965, - "precision_at_1": 0.57556, - "precision_at_3": 0.29782, - "precision_at_5": 0.21031, - "precision_at_10": 0.12536, - "precision_at_50": 0.03222, - "precision_at_100": 0.01719, - "precision_at_1000": 0.00204, - "mrr_at_1": 0.57556, - "mrr_at_3": 0.63492, - "mrr_at_5": 0.64629, - "mrr_at_10": 0.65256, - "mrr_at_50": 0.65577, - "mrr_at_100": 0.65599, - "mrr_at_1000": 0.65619 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.38128, - "ndcg_at_3": 0.33664, - "ndcg_at_5": 0.34001, - "ndcg_at_10": 0.36872, - "ndcg_at_50": 0.42794, - "ndcg_at_100": 0.44426, - "ndcg_at_1000": 0.47607, - "map_at_1": 0.159, - "map_at_3": 0.23046, - "map_at_5": 0.25533, - "map_at_10": 0.27911, - "map_at_50": 0.30028, - "map_at_100": 0.30281, - "map_at_1000": 0.30491, - "recall_at_1": 0.159, - "recall_at_3": 0.27764, - "recall_at_5": 0.33807, - "recall_at_10": 0.42245, - "recall_at_50": 0.60569, - "recall_at_100": 0.67634, - "recall_at_1000": 0.86143, - "precision_at_1": 0.38128, - "precision_at_3": 0.24687, - "precision_at_5": 0.18925, - "precision_at_10": 0.12571, - "precision_at_50": 0.03821, - "precision_at_100": 0.02149, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.38128, - "mrr_at_3": 0.45715, - "mrr_at_5": 0.47061, - "mrr_at_10": 0.48049, - "mrr_at_50": 0.48674, - "mrr_at_100": 0.48724, - "mrr_at_1000": 0.48759 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.34036, - "ndcg_at_3": 0.32765, - "ndcg_at_5": 0.3313, - "ndcg_at_10": 0.35438, - "ndcg_at_50": 0.40864, - "ndcg_at_100": 0.42322, - "ndcg_at_1000": 0.45158, - "map_at_1": 0.15599, - "map_at_3": 0.22526, - "map_at_5": 0.24966, - "map_at_10": 0.27238, - "map_at_50": 0.29226, - "map_at_100": 0.29465, - "map_at_1000": 0.29646, - "recall_at_1": 0.15599, - "recall_at_3": 0.27644, - "recall_at_5": 0.33542, - "recall_at_10": 0.41502, - "recall_at_50": 0.57466, - "recall_at_100": 0.6352, - "recall_at_1000": 0.79482, - "precision_at_1": 0.34036, - "precision_at_3": 0.2316, - "precision_at_5": 0.18219, - "precision_at_10": 0.12209, - "precision_at_50": 0.03766, - "precision_at_100": 0.02112, - "precision_at_1000": 0.00266, - "mrr_at_1": 0.34036, - "mrr_at_3": 0.41418, - "mrr_at_5": 0.42961, - "mrr_at_10": 0.44056, - "mrr_at_50": 0.44719, - "mrr_at_100": 0.44771, - "mrr_at_1000": 0.4481 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.58382, - "ndcg_at_3": 0.50299, - "ndcg_at_5": 0.49923, - "ndcg_at_10": 0.5399, - "ndcg_at_50": 0.6264, - "ndcg_at_100": 0.64136, - "ndcg_at_1000": 0.65806, - "map_at_1": 0.19579, - "map_at_3": 0.32509, - "map_at_5": 0.37786, - "map_at_10": 0.42706, - "map_at_50": 0.46853, - "map_at_100": 0.47153, - "map_at_1000": 0.473, - "recall_at_1": 0.19579, - "recall_at_3": 0.36409, - "recall_at_5": 0.45982, - "recall_at_10": 0.5911, - "recall_at_50": 0.83876, - "recall_at_100": 0.89872, - "recall_at_1000": 0.98687, - "precision_at_1": 0.58382, - "precision_at_3": 0.4104, - "precision_at_5": 0.33064, - "precision_at_10": 0.22283, - "precision_at_50": 0.06491, - "precision_at_100": 0.0348, - "precision_at_1000": 0.00379, - "mrr_at_1": 0.58382, - "mrr_at_3": 0.65077, - "mrr_at_5": 0.66551, - "mrr_at_10": 0.67469, - "mrr_at_50": 0.67928, - "mrr_at_100": 0.67955, - "mrr_at_1000": 0.67964 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.57958, - "ndcg_at_3": 0.48991, - "ndcg_at_5": 0.48086, - "ndcg_at_10": 0.5204, - "ndcg_at_50": 0.61457, - "ndcg_at_100": 0.63045, - "ndcg_at_1000": 0.65007, - "map_at_1": 0.17105, - "map_at_3": 0.2855, - "map_at_5": 0.34322, - "map_at_10": 0.40123, - "map_at_50": 0.44906, - "map_at_100": 0.4522, - "map_at_1000": 0.45399, - "recall_at_1": 0.17105, - "recall_at_3": 0.32118, - "recall_at_5": 0.42209, - "recall_at_10": 0.55884, - "recall_at_50": 0.81468, - "recall_at_100": 0.88072, - "recall_at_1000": 0.98456, - "precision_at_1": 0.57958, - "precision_at_3": 0.41642, - "precision_at_5": 0.34414, - "precision_at_10": 0.24084, - "precision_at_50": 0.07201, - "precision_at_100": 0.03853, - "precision_at_1000": 0.00423, - "mrr_at_1": 0.57958, - "mrr_at_3": 0.65365, - "mrr_at_5": 0.66627, - "mrr_at_10": 0.673, - "mrr_at_50": 0.67775, - "mrr_at_100": 0.67807, - "mrr_at_1000": 0.67832 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.57101, - "ndcg_at_3": 0.48711, - "ndcg_at_5": 0.48623, - "ndcg_at_10": 0.51202, - "ndcg_at_50": 0.6042, - "ndcg_at_100": 0.62375, - "ndcg_at_1000": 0.64538, - "map_at_1": 0.17249, - "map_at_3": 0.28986, - "map_at_5": 0.34741, - "map_at_10": 0.39804, - "map_at_50": 0.44398, - "map_at_100": 0.44785, - "map_at_1000": 0.44978, - "recall_at_1": 0.17249, - "recall_at_3": 0.32431, - "recall_at_5": 0.42887, - "recall_at_10": 0.54929, - "recall_at_50": 0.80039, - "recall_at_100": 0.88025, - "recall_at_1000": 0.99704, - "precision_at_1": 0.57101, - "precision_at_3": 0.40533, - "precision_at_5": 0.34024, - "precision_at_10": 0.23284, - "precision_at_50": 0.07041, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.57101, - "mrr_at_3": 0.63511, - "mrr_at_5": 0.65197, - "mrr_at_10": 0.65927, - "mrr_at_50": 0.66433, - "mrr_at_100": 0.66472, - "mrr_at_1000": 0.66494 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.65192, - "ndcg_at_3": 0.56151, - "ndcg_at_5": 0.56599, - "ndcg_at_10": 0.61818, - "ndcg_at_50": 0.69046, - "ndcg_at_100": 0.70451, - "ndcg_at_1000": 0.71468, - "map_at_1": 0.22552, - "map_at_3": 0.37188, - "map_at_5": 0.43924, - "map_at_10": 0.50537, - "map_at_50": 0.54135, - "map_at_100": 0.54403, - "map_at_1000": 0.54489, - "recall_at_1": 0.22552, - "recall_at_3": 0.41252, - "recall_at_5": 0.52515, - "recall_at_10": 0.67286, - "recall_at_50": 0.87872, - "recall_at_100": 0.938, - "recall_at_1000": 0.99462, - "precision_at_1": 0.65192, - "precision_at_3": 0.46116, - "precision_at_5": 0.37581, - "precision_at_10": 0.25811, - "precision_at_50": 0.0692, - "precision_at_100": 0.03667, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.65192, - "mrr_at_3": 0.72173, - "mrr_at_5": 0.73176, - "mrr_at_10": 0.73743, - "mrr_at_50": 0.74122, - "mrr_at_100": 0.74159, - "mrr_at_1000": 0.74164 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.68207, - "ndcg_at_3": 0.61371, - "ndcg_at_5": 0.5971, - "ndcg_at_10": 0.64306, - "ndcg_at_50": 0.73, - "ndcg_at_100": 0.7393, - "ndcg_at_1000": 0.74637, - "map_at_1": 0.23998, - "map_at_3": 0.40924, - "map_at_5": 0.4659, - "map_at_10": 0.52943, - "map_at_50": 0.57487, - "map_at_100": 0.57712, - "map_at_1000": 0.57777, - "recall_at_1": 0.23998, - "recall_at_3": 0.45324, - "recall_at_5": 0.54649, - "recall_at_10": 0.68916, - "recall_at_50": 0.92399, - "recall_at_100": 0.95929, - "recall_at_1000": 0.9966, - "precision_at_1": 0.68207, - "precision_at_3": 0.49909, - "precision_at_5": 0.38967, - "precision_at_10": 0.2644, - "precision_at_50": 0.07478, - "precision_at_100": 0.03899, - "precision_at_1000": 0.00403, - "mrr_at_1": 0.68207, - "mrr_at_3": 0.75725, - "mrr_at_5": 0.77015, - "mrr_at_10": 0.77501, - "mrr_at_50": 0.77804, - "mrr_at_100": 0.77813, - "mrr_at_1000": 0.77817 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.50298, - "ndcg_at_3": 0.44859, - "ndcg_at_5": 0.45211, - "ndcg_at_10": 0.48902, - "ndcg_at_50": 0.56946, - "ndcg_at_100": 0.58562, - "ndcg_at_1000": 0.60399, - "map_at_1": 0.20853, - "map_at_3": 0.32192, - "map_at_5": 0.36173, - "map_at_10": 0.39434, - "map_at_50": 0.42598, - "map_at_100": 0.42904, - "map_at_1000": 0.43043, - "recall_at_1": 0.20853, - "recall_at_3": 0.36405, - "recall_at_5": 0.44392, - "recall_at_10": 0.54803, - "recall_at_50": 0.80232, - "recall_at_100": 0.86906, - "recall_at_1000": 0.97857, - "precision_at_1": 0.50298, - "precision_at_3": 0.33929, - "precision_at_5": 0.26012, - "precision_at_10": 0.16696, - "precision_at_50": 0.0506, - "precision_at_100": 0.0278, - "precision_at_1000": 0.00308, - "mrr_at_1": 0.50298, - "mrr_at_3": 0.57093, - "mrr_at_5": 0.58328, - "mrr_at_10": 0.592, - "mrr_at_50": 0.59925, - "mrr_at_100": 0.59956, - "mrr_at_1000": 0.59976 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.56056, - "ndcg_at_3": 0.49237, - "ndcg_at_5": 0.51287, - "ndcg_at_10": 0.56472, - "ndcg_at_50": 0.63028, - "ndcg_at_100": 0.64418, - "ndcg_at_1000": 0.65818, - "map_at_1": 0.26708, - "map_at_3": 0.38037, - "map_at_5": 0.41746, - "map_at_10": 0.45527, - "map_at_50": 0.48325, - "map_at_100": 0.48552, - "map_at_1000": 0.48669, - "recall_at_1": 0.26708, - "recall_at_3": 0.43437, - "recall_at_5": 0.52516, - "recall_at_10": 0.65161, - "recall_at_50": 0.85634, - "recall_at_100": 0.92139, - "recall_at_1000": 1.0, - "precision_at_1": 0.56056, - "precision_at_3": 0.33991, - "precision_at_5": 0.26085, - "precision_at_10": 0.17099, - "precision_at_50": 0.04727, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.56056, - "mrr_at_3": 0.64366, - "mrr_at_5": 0.6607, - "mrr_at_10": 0.66941, - "mrr_at_50": 0.67312, - "mrr_at_100": 0.67344, - "mrr_at_1000": 0.6736 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.53221, - "ndcg_at_3": 0.49904, - "ndcg_at_5": 0.52051, - "ndcg_at_10": 0.56509, - "ndcg_at_50": 0.63198, - "ndcg_at_100": 0.64596, - "ndcg_at_1000": 0.65889, - "map_at_1": 0.25814, - "map_at_3": 0.39098, - "map_at_5": 0.43104, - "map_at_10": 0.46187, - "map_at_50": 0.48796, - "map_at_100": 0.49047, - "map_at_1000": 0.49151, - "recall_at_1": 0.25814, - "recall_at_3": 0.45507, - "recall_at_5": 0.54967, - "recall_at_10": 0.65503, - "recall_at_50": 0.86713, - "recall_at_100": 0.92692, - "recall_at_1000": 1.0, - "precision_at_1": 0.53221, - "precision_at_3": 0.35107, - "precision_at_5": 0.26443, - "precision_at_10": 0.16527, - "precision_at_50": 0.0465, - "precision_at_100": 0.02527, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.53221, - "mrr_at_3": 0.62838, - "mrr_at_5": 0.64575, - "mrr_at_10": 0.65457, - "mrr_at_50": 0.65889, - "mrr_at_100": 0.6592, - "mrr_at_1000": 0.65929 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.55376, - "ndcg_at_3": 0.48111, - "ndcg_at_5": 0.49075, - "ndcg_at_10": 0.52898, - "ndcg_at_50": 0.59549, - "ndcg_at_100": 0.61159, - "ndcg_at_1000": 0.63505, - "map_at_1": 0.28936, - "map_at_3": 0.38163, - "map_at_5": 0.41005, - "map_at_10": 0.43551, - "map_at_50": 0.45952, - "map_at_100": 0.46234, - "map_at_1000": 0.46424, - "recall_at_1": 0.28936, - "recall_at_3": 0.43539, - "recall_at_5": 0.49841, - "recall_at_10": 0.58824, - "recall_at_50": 0.79981, - "recall_at_100": 0.86893, - "recall_at_1000": 1.0, - "precision_at_1": 0.55376, - "precision_at_3": 0.30914, - "precision_at_5": 0.22688, - "precision_at_10": 0.14301, - "precision_at_50": 0.04188, - "precision_at_100": 0.02325, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.55376, - "mrr_at_3": 0.62366, - "mrr_at_5": 0.63522, - "mrr_at_10": 0.64445, - "mrr_at_50": 0.6493, - "mrr_at_100": 0.64953, - "mrr_at_1000": 0.64984 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.52459, - "ndcg_at_3": 0.45657, - "ndcg_at_5": 0.45812, - "ndcg_at_10": 0.5052, - "ndcg_at_50": 0.58901, - "ndcg_at_100": 0.60879, - "ndcg_at_1000": 0.62534, - "map_at_1": 0.22602, - "map_at_3": 0.33055, - "map_at_5": 0.36174, - "map_at_10": 0.39983, - "map_at_50": 0.43656, - "map_at_100": 0.43991, - "map_at_1000": 0.44116, - "recall_at_1": 0.22602, - "recall_at_3": 0.37832, - "recall_at_5": 0.44759, - "recall_at_10": 0.56836, - "recall_at_50": 0.81494, - "recall_at_100": 0.90128, - "recall_at_1000": 0.99966, - "precision_at_1": 0.52459, - "precision_at_3": 0.33242, - "precision_at_5": 0.25137, - "precision_at_10": 0.16967, - "precision_at_50": 0.0518, - "precision_at_100": 0.02866, - "precision_at_1000": 0.00313, - "mrr_at_1": 0.52459, - "mrr_at_3": 0.59882, - "mrr_at_5": 0.61453, - "mrr_at_10": 0.62589, - "mrr_at_50": 0.6315, - "mrr_at_100": 0.63195, - "mrr_at_1000": 0.63213 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.55946, - "ndcg_at_3": 0.54735, - "ndcg_at_5": 0.58171, - "ndcg_at_10": 0.63012, - "ndcg_at_50": 0.68647, - "ndcg_at_100": 0.69486, - "ndcg_at_1000": 0.69911, - "map_at_1": 0.30978, - "map_at_3": 0.44857, - "map_at_5": 0.49455, - "map_at_10": 0.52745, - "map_at_50": 0.55211, - "map_at_100": 0.5535, - "map_at_1000": 0.55384, - "recall_at_1": 0.30978, - "recall_at_3": 0.52804, - "recall_at_5": 0.63338, - "recall_at_10": 0.75046, - "recall_at_50": 0.93383, - "recall_at_100": 0.97392, - "recall_at_1000": 1.0, - "precision_at_1": 0.55946, - "precision_at_3": 0.35766, - "precision_at_5": 0.27514, - "precision_at_10": 0.17162, - "precision_at_50": 0.04432, - "precision_at_100": 0.02316, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.55946, - "mrr_at_3": 0.65991, - "mrr_at_5": 0.67464, - "mrr_at_10": 0.68292, - "mrr_at_50": 0.68596, - "mrr_at_100": 0.68624, - "mrr_at_1000": 0.6863 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.40184, - "ndcg_at_3": 0.39853, - "ndcg_at_5": 0.43795, - "ndcg_at_10": 0.49264, - "ndcg_at_50": 0.55118, - "ndcg_at_100": 0.56487, - "ndcg_at_1000": 0.57739, - "map_at_1": 0.24788, - "map_at_3": 0.33399, - "map_at_5": 0.37056, - "map_at_10": 0.40272, - "map_at_50": 0.42254, - "map_at_100": 0.4242, - "map_at_1000": 0.425, - "recall_at_1": 0.24788, - "recall_at_3": 0.39518, - "recall_at_5": 0.49751, - "recall_at_10": 0.63417, - "recall_at_50": 0.84284, - "recall_at_100": 0.91656, - "recall_at_1000": 1.0, - "precision_at_1": 0.40184, - "precision_at_3": 0.24131, - "precision_at_5": 0.1865, - "precision_at_10": 0.12423, - "precision_at_50": 0.03374, - "precision_at_100": 0.01816, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.40184, - "mrr_at_3": 0.48262, - "mrr_at_5": 0.50102, - "mrr_at_10": 0.51566, - "mrr_at_50": 0.52342, - "mrr_at_100": 0.524, - "mrr_at_1000": 0.52425 - }, - "gpt3": { - "ndcg_at_1": 0.36499, - "ndcg_at_3": 0.44012, - "ndcg_at_5": 0.47589, - "ndcg_at_10": 0.52687, - "ndcg_at_50": 0.57331, - "ndcg_at_100": 0.58446, - "ndcg_at_1000": 0.59118, - "map_at_1": 0.29599, - "map_at_3": 0.39503, - "map_at_5": 0.41779, - "map_at_10": 0.44231, - "map_at_50": 0.4563, - "map_at_100": 0.45761, - "map_at_1000": 0.45796, - "recall_at_1": 0.29599, - "recall_at_3": 0.49827, - "recall_at_5": 0.57666, - "recall_at_10": 0.71761, - "recall_at_50": 0.89169, - "recall_at_100": 0.95326, - "recall_at_1000": 1.0, - "precision_at_1": 0.36499, - "precision_at_3": 0.21662, - "precision_at_5": 0.15608, - "precision_at_10": 0.1003, - "precision_at_50": 0.02617, - "precision_at_100": 0.01404, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.36499, - "mrr_at_3": 0.46588, - "mrr_at_5": 0.48546, - "mrr_at_10": 0.50232, - "mrr_at_50": 0.5093, - "mrr_at_100": 0.50987, - "mrr_at_1000": 0.51002 - }, - "llm-survey": { - "ndcg_at_1": 0.43417, - "ndcg_at_3": 0.41191, - "ndcg_at_5": 0.42959, - "ndcg_at_10": 0.477, - "ndcg_at_50": 0.54661, - "ndcg_at_100": 0.56191, - "ndcg_at_1000": 0.58101, - "map_at_1": 0.20809, - "map_at_3": 0.31801, - "map_at_5": 0.34996, - "map_at_10": 0.38282, - "map_at_50": 0.40903, - "map_at_100": 0.41133, - "map_at_1000": 0.41244, - "recall_at_1": 0.20809, - "recall_at_3": 0.37165, - "recall_at_5": 0.44933, - "recall_at_10": 0.56871, - "recall_at_50": 0.80127, - "recall_at_100": 0.87483, - "recall_at_1000": 0.9965, - "precision_at_1": 0.43417, - "precision_at_3": 0.29599, - "precision_at_5": 0.22353, - "precision_at_10": 0.1479, - "precision_at_50": 0.04269, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00258, - "mrr_at_1": 0.43417, - "mrr_at_3": 0.51727, - "mrr_at_5": 0.53212, - "mrr_at_10": 0.54448, - "mrr_at_50": 0.55081, - "mrr_at_100": 0.5514, - "mrr_at_1000": 0.55178 - }, - "gemini": { - "ndcg_at_1": 0.41365, - "ndcg_at_3": 0.51673, - "ndcg_at_5": 0.54525, - "ndcg_at_10": 0.57515, - "ndcg_at_50": 0.61019, - "ndcg_at_100": 0.61814, - "ndcg_at_1000": 0.62371, - "map_at_1": 0.41365, - "map_at_3": 0.4913, - "map_at_5": 0.50736, - "map_at_10": 0.5197, - "map_at_50": 0.527, - "map_at_100": 0.52774, - "map_at_1000": 0.52801, - "recall_at_1": 0.41365, - "recall_at_3": 0.59036, - "recall_at_5": 0.65863, - "recall_at_10": 0.751, - "recall_at_50": 0.91165, - "recall_at_100": 0.95984, - "recall_at_1000": 1.0, - "precision_at_1": 0.41365, - "precision_at_3": 0.19679, - "precision_at_5": 0.13173, - "precision_at_10": 0.0751, - "precision_at_50": 0.01823, - "precision_at_100": 0.0096, - "precision_at_1000": 0.001, - "mrr_at_1": 0.41365, - "mrr_at_3": 0.4913, - "mrr_at_5": 0.50736, - "mrr_at_10": 0.5197, - "mrr_at_50": 0.527, - "mrr_at_100": 0.52774, - "mrr_at_1000": 0.52801 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.2271, - "ndcg_at_3": 0.21086, - "ndcg_at_5": 0.21619, - "ndcg_at_10": 0.23238, - "ndcg_at_50": 0.26451, - "ndcg_at_100": 0.26823, - "ndcg_at_1000": 0.26823, - "map_at_1": 0.08005, - "map_at_3": 0.13272, - "map_at_5": 0.15728, - "map_at_10": 0.17978, - "map_at_50": 0.19413, - "map_at_100": 0.19462, - "map_at_1000": 0.19462, - "recall_at_1": 0.08005, - "recall_at_3": 0.15706, - "recall_at_5": 0.20655, - "recall_at_10": 0.26583, - "recall_at_50": 0.35853, - "recall_at_100": 0.37618, - "recall_at_1000": 0.37618, - "precision_at_1": 0.2271, - "precision_at_3": 0.17176, - "precision_at_5": 0.14325, - "precision_at_10": 0.09872, - "precision_at_50": 0.02755, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.2271, - "mrr_at_3": 0.27041, - "mrr_at_5": 0.28082, - "mrr_at_10": 0.28679, - "mrr_at_50": 0.29012, - "mrr_at_100": 0.29033, - "mrr_at_1000": 0.29033 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.44796, - "ndcg_at_3": 0.43572, - "ndcg_at_5": 0.43989, - "ndcg_at_10": 0.46216, - "ndcg_at_50": 0.50343, - "ndcg_at_100": 0.50641, - "ndcg_at_1000": 0.50641, - "map_at_1": 0.18941, - "map_at_3": 0.29448, - "map_at_5": 0.33655, - "map_at_10": 0.3782, - "map_at_50": 0.40039, - "map_at_100": 0.40098, - "map_at_1000": 0.40098, - "recall_at_1": 0.18941, - "recall_at_3": 0.34099, - "recall_at_5": 0.41838, - "recall_at_10": 0.51327, - "recall_at_50": 0.62408, - "recall_at_100": 0.63614, - "recall_at_1000": 0.63614, - "precision_at_1": 0.44796, - "precision_at_3": 0.33147, - "precision_at_5": 0.26939, - "precision_at_10": 0.18327, - "precision_at_50": 0.04731, - "precision_at_100": 0.02413, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.44796, - "mrr_at_3": 0.52623, - "mrr_at_5": 0.53893, - "mrr_at_10": 0.54558, - "mrr_at_50": 0.54916, - "mrr_at_100": 0.54922, - "mrr_at_1000": 0.54922 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.58696, - "ndcg_at_3": 0.53849, - "ndcg_at_5": 0.52432, - "ndcg_at_10": 0.54665, - "ndcg_at_50": 0.63061, - "ndcg_at_100": 0.639, - "ndcg_at_1000": 0.639, - "map_at_1": 0.15956, - "map_at_3": 0.29404, - "map_at_5": 0.36108, - "map_at_10": 0.43382, - "map_at_50": 0.48292, - "map_at_100": 0.48487, - "map_at_1000": 0.48487, - "recall_at_1": 0.15956, - "recall_at_3": 0.33089, - "recall_at_5": 0.43352, - "recall_at_10": 0.57773, - "recall_at_50": 0.78705, - "recall_at_100": 0.81887, - "recall_at_1000": 0.81887, - "precision_at_1": 0.58696, - "precision_at_3": 0.47217, - "precision_at_5": 0.40028, - "precision_at_10": 0.288, - "precision_at_50": 0.08195, - "precision_at_100": 0.04248, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.58696, - "mrr_at_3": 0.66303, - "mrr_at_5": 0.67482, - "mrr_at_10": 0.68245, - "mrr_at_50": 0.68592, - "mrr_at_100": 0.68608, - "mrr_at_1000": 0.68608 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.50615, - "ndcg_at_3": 0.47178, - "ndcg_at_5": 0.48523, - "ndcg_at_10": 0.52343, - "ndcg_at_50": 0.56933, - "ndcg_at_100": 0.5743, - "ndcg_at_1000": 0.5743, - "map_at_1": 0.22261, - "map_at_3": 0.35061, - "map_at_5": 0.39296, - "map_at_10": 0.42809, - "map_at_50": 0.44794, - "map_at_100": 0.44873, - "map_at_1000": 0.44873, - "recall_at_1": 0.22261, - "recall_at_3": 0.40322, - "recall_at_5": 0.49052, - "recall_at_10": 0.59564, - "recall_at_50": 0.73474, - "recall_at_100": 0.75763, - "recall_at_1000": 0.75763, - "precision_at_1": 0.50615, - "precision_at_3": 0.35325, - "precision_at_5": 0.27229, - "precision_at_10": 0.17399, - "precision_at_50": 0.04422, - "precision_at_100": 0.02274, - "precision_at_1000": 0.00227, - "mrr_at_1": 0.50615, - "mrr_at_3": 0.58699, - "mrr_at_5": 0.60132, - "mrr_at_10": 0.60976, - "mrr_at_50": 0.61381, - "mrr_at_100": 0.61401, - "mrr_at_1000": 0.61401 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.44101, - "ndcg_at_3": 0.45055, - "ndcg_at_5": 0.47064, - "ndcg_at_10": 0.4933, - "ndcg_at_50": 0.51937, - "ndcg_at_100": 0.52306, - "ndcg_at_1000": 0.52306, - "map_at_1": 0.27033, - "map_at_3": 0.37706, - "map_at_5": 0.41103, - "map_at_10": 0.43462, - "map_at_50": 0.44585, - "map_at_100": 0.44624, - "map_at_1000": 0.44624, - "recall_at_1": 0.27033, - "recall_at_3": 0.42857, - "recall_at_5": 0.50292, - "recall_at_10": 0.56943, - "recall_at_50": 0.65502, - "recall_at_100": 0.67565, - "recall_at_1000": 0.67565, - "precision_at_1": 0.44101, - "precision_at_3": 0.27655, - "precision_at_5": 0.21047, - "precision_at_10": 0.12902, - "precision_at_50": 0.03071, - "precision_at_100": 0.01567, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.43975, - "mrr_at_3": 0.49989, - "mrr_at_5": 0.51135, - "mrr_at_10": 0.51666, - "mrr_at_50": 0.51945, - "mrr_at_100": 0.51974, - "mrr_at_1000": 0.51974 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.66705, - "ndcg_at_3": 0.59839, - "ndcg_at_5": 0.60805, - "ndcg_at_10": 0.63096, - "ndcg_at_50": 0.649, - "ndcg_at_100": 0.65024, - "ndcg_at_1000": 0.65024, - "map_at_1": 0.39149, - "map_at_3": 0.50164, - "map_at_5": 0.53293, - "map_at_10": 0.55485, - "map_at_50": 0.56314, - "map_at_100": 0.56331, - "map_at_1000": 0.56331, - "recall_at_1": 0.39149, - "recall_at_3": 0.54369, - "recall_at_5": 0.60587, - "recall_at_10": 0.66739, - "recall_at_50": 0.72117, - "recall_at_100": 0.72745, - "recall_at_1000": 0.72745, - "precision_at_1": 0.66705, - "precision_at_3": 0.36306, - "precision_at_5": 0.25918, - "precision_at_10": 0.15229, - "precision_at_50": 0.03412, - "precision_at_100": 0.01719, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.66705, - "mrr_at_3": 0.72148, - "mrr_at_5": 0.72959, - "mrr_at_10": 0.73314, - "mrr_at_50": 0.73476, - "mrr_at_100": 0.73481, - "mrr_at_1000": 0.73481 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.47834, - "ndcg_at_3": 0.42668, - "ndcg_at_5": 0.4335, - "ndcg_at_10": 0.46939, - "ndcg_at_50": 0.51306, - "ndcg_at_100": 0.51619, - "ndcg_at_1000": 0.51619, - "map_at_1": 0.19626, - "map_at_3": 0.29544, - "map_at_5": 0.33383, - "map_at_10": 0.36929, - "map_at_50": 0.38945, - "map_at_100": 0.3899, - "map_at_1000": 0.3899, - "recall_at_1": 0.19626, - "recall_at_3": 0.34634, - "recall_at_5": 0.427, - "recall_at_10": 0.53238, - "recall_at_50": 0.66099, - "recall_at_100": 0.67634, - "recall_at_1000": 0.67634, - "precision_at_1": 0.47834, - "precision_at_3": 0.32024, - "precision_at_5": 0.25211, - "precision_at_10": 0.16603, - "precision_at_50": 0.04228, - "precision_at_100": 0.02149, - "precision_at_1000": 0.00215, - "mrr_at_1": 0.47834, - "mrr_at_3": 0.55633, - "mrr_at_5": 0.56993, - "mrr_at_10": 0.5781, - "mrr_at_50": 0.5814, - "mrr_at_100": 0.58155, - "mrr_at_1000": 0.58155 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.47686, - "ndcg_at_3": 0.45247, - "ndcg_at_5": 0.45591, - "ndcg_at_10": 0.47953, - "ndcg_at_50": 0.51423, - "ndcg_at_100": 0.51695, - "ndcg_at_1000": 0.51695, - "map_at_1": 0.2259, - "map_at_3": 0.3199, - "map_at_5": 0.35641, - "map_at_10": 0.38881, - "map_at_50": 0.40578, - "map_at_100": 0.40628, - "map_at_1000": 0.40628, - "recall_at_1": 0.2259, - "recall_at_3": 0.37398, - "recall_at_5": 0.44741, - "recall_at_10": 0.531, - "recall_at_50": 0.62379, - "recall_at_100": 0.6352, - "recall_at_1000": 0.6352, - "precision_at_1": 0.47686, - "precision_at_3": 0.32045, - "precision_at_5": 0.25214, - "precision_at_10": 0.16438, - "precision_at_50": 0.04144, - "precision_at_100": 0.02112, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.47686, - "mrr_at_3": 0.56132, - "mrr_at_5": 0.57491, - "mrr_at_10": 0.5813, - "mrr_at_50": 0.58391, - "mrr_at_100": 0.58401, - "mrr_at_1000": 0.58401 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.54335, - "ndcg_at_3": 0.4948, - "ndcg_at_5": 0.49583, - "ndcg_at_10": 0.55097, - "ndcg_at_50": 0.63192, - "ndcg_at_100": 0.64173, - "ndcg_at_1000": 0.64173, - "map_at_1": 0.17746, - "map_at_3": 0.31285, - "map_at_5": 0.37101, - "map_at_10": 0.43402, - "map_at_50": 0.47356, - "map_at_100": 0.47549, - "map_at_1000": 0.47549, - "recall_at_1": 0.17746, - "recall_at_3": 0.36203, - "recall_at_5": 0.46211, - "recall_at_10": 0.62284, - "recall_at_50": 0.85647, - "recall_at_100": 0.89872, - "recall_at_1000": 0.89872, - "precision_at_1": 0.54335, - "precision_at_3": 0.41715, - "precision_at_5": 0.34162, - "precision_at_10": 0.23988, - "precision_at_50": 0.06688, - "precision_at_100": 0.0348, - "precision_at_1000": 0.00348, - "mrr_at_1": 0.54335, - "mrr_at_3": 0.63391, - "mrr_at_5": 0.6488, - "mrr_at_10": 0.65938, - "mrr_at_50": 0.66366, - "mrr_at_100": 0.66379, - "mrr_at_1000": 0.66379 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.56757, - "ndcg_at_3": 0.49531, - "ndcg_at_5": 0.4919, - "ndcg_at_10": 0.53552, - "ndcg_at_50": 0.62363, - "ndcg_at_100": 0.63255, - "ndcg_at_1000": 0.63255, - "map_at_1": 0.14986, - "map_at_3": 0.2827, - "map_at_5": 0.35078, - "map_at_10": 0.42149, - "map_at_50": 0.4655, - "map_at_100": 0.46732, - "map_at_1000": 0.46732, - "recall_at_1": 0.14986, - "recall_at_3": 0.31907, - "recall_at_5": 0.43381, - "recall_at_10": 0.59345, - "recall_at_50": 0.84346, - "recall_at_100": 0.88072, - "recall_at_1000": 0.88072, - "precision_at_1": 0.56757, - "precision_at_3": 0.43343, - "precision_at_5": 0.37357, - "precision_at_10": 0.26426, - "precision_at_50": 0.07447, - "precision_at_100": 0.03853, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.56757, - "mrr_at_3": 0.63113, - "mrr_at_5": 0.64765, - "mrr_at_10": 0.65677, - "mrr_at_50": 0.66128, - "mrr_at_100": 0.6614, - "mrr_at_1000": 0.6614 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.65089, - "ndcg_at_3": 0.58726, - "ndcg_at_5": 0.57944, - "ndcg_at_10": 0.61381, - "ndcg_at_50": 0.68749, - "ndcg_at_100": 0.69411, - "ndcg_at_1000": 0.69411, - "map_at_1": 0.21053, - "map_at_3": 0.36683, - "map_at_5": 0.43677, - "map_at_10": 0.50562, - "map_at_50": 0.5479, - "map_at_100": 0.54916, - "map_at_1000": 0.54916, - "recall_at_1": 0.21053, - "recall_at_3": 0.39907, - "recall_at_5": 0.51105, - "recall_at_10": 0.65534, - "recall_at_50": 0.85071, - "recall_at_100": 0.88025, - "recall_at_1000": 0.88025, - "precision_at_1": 0.65089, - "precision_at_3": 0.49507, - "precision_at_5": 0.41243, - "precision_at_10": 0.28077, - "precision_at_50": 0.07503, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.65089, - "mrr_at_3": 0.71252, - "mrr_at_5": 0.72392, - "mrr_at_10": 0.72997, - "mrr_at_50": 0.73323, - "mrr_at_100": 0.73341, - "mrr_at_1000": 0.73341 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.62242, - "ndcg_at_3": 0.55675, - "ndcg_at_5": 0.56297, - "ndcg_at_10": 0.61874, - "ndcg_at_50": 0.69589, - "ndcg_at_100": 0.70319, - "ndcg_at_1000": 0.70319, - "map_at_1": 0.20667, - "map_at_3": 0.37159, - "map_at_5": 0.43882, - "map_at_10": 0.50721, - "map_at_50": 0.54807, - "map_at_100": 0.5493, - "map_at_1000": 0.5493, - "recall_at_1": 0.20667, - "recall_at_3": 0.41124, - "recall_at_5": 0.53088, - "recall_at_10": 0.68669, - "recall_at_50": 0.9036, - "recall_at_100": 0.938, - "recall_at_1000": 0.938, - "precision_at_1": 0.62242, - "precision_at_3": 0.47296, - "precision_at_5": 0.38348, - "precision_at_10": 0.26637, - "precision_at_50": 0.0715, - "precision_at_100": 0.03667, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.62242, - "mrr_at_3": 0.69371, - "mrr_at_5": 0.7089, - "mrr_at_10": 0.71575, - "mrr_at_50": 0.71988, - "mrr_at_100": 0.72009, - "mrr_at_1000": 0.72009 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.76087, - "ndcg_at_3": 0.6945, - "ndcg_at_5": 0.68769, - "ndcg_at_10": 0.72881, - "ndcg_at_50": 0.79544, - "ndcg_at_100": 0.79841, - "ndcg_at_1000": 0.79841, - "map_at_1": 0.27063, - "map_at_3": 0.46605, - "map_at_5": 0.55077, - "map_at_10": 0.6213, - "map_at_50": 0.66302, - "map_at_100": 0.66368, - "map_at_1000": 0.66368, - "recall_at_1": 0.27063, - "recall_at_3": 0.50506, - "recall_at_5": 0.63346, - "recall_at_10": 0.77545, - "recall_at_50": 0.9478, - "recall_at_100": 0.95929, - "recall_at_1000": 0.95929, - "precision_at_1": 0.76087, - "precision_at_3": 0.57337, - "precision_at_5": 0.46304, - "precision_at_10": 0.30245, - "precision_at_50": 0.07701, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.76087, - "mrr_at_3": 0.82835, - "mrr_at_5": 0.83718, - "mrr_at_10": 0.84027, - "mrr_at_50": 0.84129, - "mrr_at_100": 0.84134, - "mrr_at_1000": 0.84134 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.58036, - "ndcg_at_3": 0.53636, - "ndcg_at_5": 0.55095, - "ndcg_at_10": 0.5917, - "ndcg_at_50": 0.6505, - "ndcg_at_100": 0.65646, - "ndcg_at_1000": 0.65646, - "map_at_1": 0.24837, - "map_at_3": 0.39883, - "map_at_5": 0.45645, - "map_at_10": 0.5002, - "map_at_50": 0.52737, - "map_at_100": 0.52826, - "map_at_1000": 0.52826, - "recall_at_1": 0.24837, - "recall_at_3": 0.44126, - "recall_at_5": 0.55026, - "recall_at_10": 0.6633, - "recall_at_50": 0.84006, - "recall_at_100": 0.86906, - "recall_at_1000": 0.86906, - "precision_at_1": 0.58036, - "precision_at_3": 0.41369, - "precision_at_5": 0.32679, - "precision_at_10": 0.20863, - "precision_at_50": 0.05429, - "precision_at_100": 0.0278, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.58036, - "mrr_at_3": 0.64732, - "mrr_at_5": 0.65923, - "mrr_at_10": 0.66595, - "mrr_at_50": 0.66995, - "mrr_at_100": 0.67033, - "mrr_at_1000": 0.67033 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.65915, - "ndcg_at_3": 0.59225, - "ndcg_at_5": 0.61418, - "ndcg_at_10": 0.66028, - "ndcg_at_50": 0.71244, - "ndcg_at_100": 0.71636, - "ndcg_at_1000": 0.71636, - "map_at_1": 0.30807, - "map_at_3": 0.46709, - "map_at_5": 0.52011, - "map_at_10": 0.55871, - "map_at_50": 0.58274, - "map_at_100": 0.58348, - "map_at_1000": 0.58348, - "recall_at_1": 0.30807, - "recall_at_3": 0.52778, - "recall_at_5": 0.63258, - "recall_at_10": 0.74317, - "recall_at_50": 0.90359, - "recall_at_100": 0.92139, - "recall_at_1000": 0.92139, - "precision_at_1": 0.65915, - "precision_at_3": 0.4216, - "precision_at_5": 0.32056, - "precision_at_10": 0.19915, - "precision_at_50": 0.0498, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.65915, - "mrr_at_3": 0.7338, - "mrr_at_5": 0.74437, - "mrr_at_10": 0.75035, - "mrr_at_50": 0.75347, - "mrr_at_100": 0.75355, - "mrr_at_1000": 0.75355 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63025, - "ndcg_at_3": 0.5787, - "ndcg_at_5": 0.60306, - "ndcg_at_10": 0.66017, - "ndcg_at_50": 0.709, - "ndcg_at_100": 0.71386, - "ndcg_at_1000": 0.71386, - "map_at_1": 0.31233, - "map_at_3": 0.46345, - "map_at_5": 0.51192, - "map_at_10": 0.55978, - "map_at_50": 0.58153, - "map_at_100": 0.58232, - "map_at_1000": 0.58232, - "recall_at_1": 0.31233, - "recall_at_3": 0.51923, - "recall_at_5": 0.62081, - "recall_at_10": 0.75518, - "recall_at_50": 0.90331, - "recall_at_100": 0.92692, - "recall_at_1000": 0.92692, - "precision_at_1": 0.63025, - "precision_at_3": 0.40616, - "precision_at_5": 0.3098, - "precision_at_10": 0.19944, - "precision_at_50": 0.04947, - "precision_at_100": 0.02527, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.63025, - "mrr_at_3": 0.71148, - "mrr_at_5": 0.72535, - "mrr_at_10": 0.73211, - "mrr_at_50": 0.7347, - "mrr_at_100": 0.73488, - "mrr_at_1000": 0.73488 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.64247, - "ndcg_at_3": 0.59288, - "ndcg_at_5": 0.61052, - "ndcg_at_10": 0.64892, - "ndcg_at_50": 0.69808, - "ndcg_at_100": 0.70156, - "ndcg_at_1000": 0.70156, - "map_at_1": 0.34953, - "map_at_3": 0.49001, - "map_at_5": 0.53193, - "map_at_10": 0.56226, - "map_at_50": 0.58548, - "map_at_100": 0.58603, - "map_at_1000": 0.58603, - "recall_at_1": 0.34953, - "recall_at_3": 0.5356, - "recall_at_5": 0.62167, - "recall_at_10": 0.70875, - "recall_at_50": 0.85168, - "recall_at_100": 0.86893, - "recall_at_1000": 0.86893, - "precision_at_1": 0.64247, - "precision_at_3": 0.39247, - "precision_at_5": 0.29301, - "precision_at_10": 0.17984, - "precision_at_50": 0.04581, - "precision_at_100": 0.02325, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.64247, - "mrr_at_3": 0.71057, - "mrr_at_5": 0.72482, - "mrr_at_10": 0.72857, - "mrr_at_50": 0.73201, - "mrr_at_100": 0.73209, - "mrr_at_1000": 0.73209 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.4918, - "ndcg_at_3": 0.43921, - "ndcg_at_5": 0.45864, - "ndcg_at_10": 0.51936, - "ndcg_at_50": 0.59705, - "ndcg_at_100": 0.60847, - "ndcg_at_1000": 0.60847, - "map_at_1": 0.20623, - "map_at_3": 0.31492, - "map_at_5": 0.36352, - "map_at_10": 0.41182, - "map_at_50": 0.44609, - "map_at_100": 0.44805, - "map_at_1000": 0.44805, - "recall_at_1": 0.20623, - "recall_at_3": 0.35903, - "recall_at_5": 0.46165, - "recall_at_10": 0.61305, - "recall_at_50": 0.84925, - "recall_at_100": 0.90128, - "recall_at_1000": 0.90128, - "precision_at_1": 0.4918, - "precision_at_3": 0.33607, - "precision_at_5": 0.27432, - "precision_at_10": 0.1918, - "precision_at_50": 0.05448, - "precision_at_100": 0.02866, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.4918, - "mrr_at_3": 0.56603, - "mrr_at_5": 0.5872, - "mrr_at_10": 0.59919, - "mrr_at_50": 0.60451, - "mrr_at_100": 0.60485, - "mrr_at_1000": 0.60485 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.54865, - "ndcg_at_3": 0.5326, - "ndcg_at_5": 0.57413, - "ndcg_at_10": 0.63593, - "ndcg_at_50": 0.68596, - "ndcg_at_100": 0.69168, - "ndcg_at_1000": 0.69168, - "map_at_1": 0.30812, - "map_at_3": 0.43731, - "map_at_5": 0.49013, - "map_at_10": 0.53411, - "map_at_50": 0.55528, - "map_at_100": 0.55618, - "map_at_1000": 0.55618, - "recall_at_1": 0.30812, - "recall_at_3": 0.51159, - "recall_at_5": 0.63325, - "recall_at_10": 0.7831, - "recall_at_50": 0.94536, - "recall_at_100": 0.97392, - "recall_at_1000": 0.97392, - "precision_at_1": 0.54865, - "precision_at_3": 0.34955, - "precision_at_5": 0.2773, - "precision_at_10": 0.18108, - "precision_at_50": 0.04508, - "precision_at_100": 0.02316, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.54865, - "mrr_at_3": 0.63288, - "mrr_at_5": 0.65153, - "mrr_at_10": 0.66262, - "mrr_at_50": 0.66636, - "mrr_at_100": 0.66653, - "mrr_at_1000": 0.66653 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41104, - "ndcg_at_3": 0.46788, - "ndcg_at_5": 0.49997, - "ndcg_at_10": 0.55265, - "ndcg_at_50": 0.60265, - "ndcg_at_100": 0.60843, - "ndcg_at_1000": 0.60843, - "map_at_1": 0.2635, - "map_at_3": 0.39885, - "map_at_5": 0.43293, - "map_at_10": 0.46606, - "map_at_50": 0.48353, - "map_at_100": 0.48421, - "map_at_1000": 0.48421, - "recall_at_1": 0.2635, - "recall_at_3": 0.49573, - "recall_at_5": 0.5778, - "recall_at_10": 0.70764, - "recall_at_50": 0.88538, - "recall_at_100": 0.91656, - "recall_at_1000": 0.91656, - "precision_at_1": 0.41104, - "precision_at_3": 0.28834, - "precision_at_5": 0.21718, - "precision_at_10": 0.13957, - "precision_at_50": 0.0354, - "precision_at_100": 0.01816, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.41104, - "mrr_at_3": 0.51738, - "mrr_at_5": 0.53241, - "mrr_at_10": 0.5442, - "mrr_at_50": 0.55089, - "mrr_at_100": 0.5513, - "mrr_at_1000": 0.5513 - }, - "gpt3": { - "ndcg_at_1": 0.36202, - "ndcg_at_3": 0.45725, - "ndcg_at_5": 0.50139, - "ndcg_at_10": 0.54254, - "ndcg_at_50": 0.58674, - "ndcg_at_100": 0.59555, - "ndcg_at_1000": 0.59555, - "map_at_1": 0.28734, - "map_at_3": 0.40645, - "map_at_5": 0.43707, - "map_at_10": 0.45812, - "map_at_50": 0.47066, - "map_at_100": 0.47166, - "map_at_1000": 0.47166, - "recall_at_1": 0.28734, - "recall_at_3": 0.52127, - "recall_at_5": 0.6182, - "recall_at_10": 0.72873, - "recall_at_50": 0.90282, - "recall_at_100": 0.95326, - "recall_at_1000": 0.95326, - "precision_at_1": 0.36202, - "precision_at_3": 0.23739, - "precision_at_5": 0.17329, - "precision_at_10": 0.10534, - "precision_at_50": 0.02671, - "precision_at_100": 0.01404, - "precision_at_1000": 0.0014, - "mrr_at_1": 0.36202, - "mrr_at_3": 0.48566, - "mrr_at_5": 0.50287, - "mrr_at_10": 0.5158, - "mrr_at_50": 0.52219, - "mrr_at_100": 0.52267, - "mrr_at_1000": 0.52267 - }, - "llm-survey": { - "ndcg_at_1": 0.48459, - "ndcg_at_3": 0.452, - "ndcg_at_5": 0.48227, - "ndcg_at_10": 0.52923, - "ndcg_at_50": 0.5883, - "ndcg_at_100": 0.59833, - "ndcg_at_1000": 0.59833, - "map_at_1": 0.2312, - "map_at_3": 0.35153, - "map_at_5": 0.3965, - "map_at_10": 0.43535, - "map_at_50": 0.45944, - "map_at_100": 0.46081, - "map_at_1000": 0.46081, - "recall_at_1": 0.2312, - "recall_at_3": 0.40627, - "recall_at_5": 0.50591, - "recall_at_10": 0.6245, - "recall_at_50": 0.82329, - "recall_at_100": 0.87483, - "recall_at_1000": 0.87483, - "precision_at_1": 0.48459, - "precision_at_3": 0.32866, - "precision_at_5": 0.25938, - "precision_at_10": 0.16891, - "precision_at_50": 0.04426, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.48459, - "mrr_at_3": 0.56396, - "mrr_at_5": 0.58007, - "mrr_at_10": 0.58848, - "mrr_at_50": 0.59327, - "mrr_at_100": 0.59378, - "mrr_at_1000": 0.59378 - }, - "gemini": { - "ndcg_at_1": 0.43775, - "ndcg_at_3": 0.55297, - "ndcg_at_5": 0.57959, - "ndcg_at_10": 0.60843, - "ndcg_at_50": 0.64189, - "ndcg_at_100": 0.64653, - "ndcg_at_1000": 0.64653, - "map_at_1": 0.43775, - "map_at_3": 0.52477, - "map_at_5": 0.53963, - "map_at_10": 0.55168, - "map_at_50": 0.55961, - "map_at_100": 0.56005, - "map_at_1000": 0.56005, - "recall_at_1": 0.43775, - "recall_at_3": 0.63454, - "recall_at_5": 0.6988, - "recall_at_10": 0.78715, - "recall_at_50": 0.93173, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.43775, - "precision_at_3": 0.21151, - "precision_at_5": 0.13976, - "precision_at_10": 0.07871, - "precision_at_50": 0.01863, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.43775, - "mrr_at_3": 0.52477, - "mrr_at_5": 0.53963, - "mrr_at_10": 0.55168, - "mrr_at_50": 0.55961, - "mrr_at_100": 0.56005, - "mrr_at_1000": 0.56005 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.22432, - "ndcg_at_3": 0.21038, - "ndcg_at_5": 0.21446, - "ndcg_at_10": 0.23121, - "ndcg_at_50": 0.2639, - "ndcg_at_100": 0.26824, - "ndcg_at_1000": 0.26824, - "map_at_1": 0.08239, - "map_at_3": 0.13479, - "map_at_5": 0.15778, - "map_at_10": 0.17913, - "map_at_50": 0.19396, - "map_at_100": 0.19463, - "map_at_1000": 0.19463, - "recall_at_1": 0.08239, - "recall_at_3": 0.16132, - "recall_at_5": 0.20493, - "recall_at_10": 0.26339, - "recall_at_50": 0.35659, - "recall_at_100": 0.37618, - "recall_at_1000": 0.37618, - "precision_at_1": 0.22432, - "precision_at_3": 0.17046, - "precision_at_5": 0.1407, - "precision_at_10": 0.09684, - "precision_at_50": 0.02731, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.22432, - "mrr_at_3": 0.27041, - "mrr_at_5": 0.27879, - "mrr_at_10": 0.28515, - "mrr_at_50": 0.28859, - "mrr_at_100": 0.2888, - "mrr_at_1000": 0.2888 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.47708, - "ndcg_at_3": 0.45946, - "ndcg_at_5": 0.46255, - "ndcg_at_10": 0.48328, - "ndcg_at_50": 0.51992, - "ndcg_at_100": 0.52227, - "ndcg_at_1000": 0.52227, - "map_at_1": 0.20229, - "map_at_3": 0.31317, - "map_at_5": 0.3586, - "map_at_10": 0.40154, - "map_at_50": 0.42146, - "map_at_100": 0.4219, - "map_at_1000": 0.4219, - "recall_at_1": 0.20229, - "recall_at_3": 0.35867, - "recall_at_5": 0.43673, - "recall_at_10": 0.52824, - "recall_at_50": 0.6263, - "recall_at_100": 0.63614, - "recall_at_1000": 0.63614, - "precision_at_1": 0.47708, - "precision_at_3": 0.34696, - "precision_at_5": 0.28203, - "precision_at_10": 0.19033, - "precision_at_50": 0.04756, - "precision_at_100": 0.02413, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.47646, - "mrr_at_3": 0.55194, - "mrr_at_5": 0.56446, - "mrr_at_10": 0.56983, - "mrr_at_50": 0.57299, - "mrr_at_100": 0.57307, - "mrr_at_1000": 0.57307 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.5849, - "ndcg_at_3": 0.54464, - "ndcg_at_5": 0.53188, - "ndcg_at_10": 0.55215, - "ndcg_at_50": 0.6334, - "ndcg_at_100": 0.64189, - "ndcg_at_1000": 0.64189, - "map_at_1": 0.15956, - "map_at_3": 0.29885, - "map_at_5": 0.36824, - "map_at_10": 0.44172, - "map_at_50": 0.48925, - "map_at_100": 0.49116, - "map_at_1000": 0.49116, - "recall_at_1": 0.15956, - "recall_at_3": 0.33505, - "recall_at_5": 0.44048, - "recall_at_10": 0.5825, - "recall_at_50": 0.78629, - "recall_at_100": 0.81887, - "recall_at_1000": 0.81887, - "precision_at_1": 0.5849, - "precision_at_3": 0.47935, - "precision_at_5": 0.40848, - "precision_at_10": 0.29155, - "precision_at_50": 0.08196, - "precision_at_100": 0.04248, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.58538, - "mrr_at_3": 0.66181, - "mrr_at_5": 0.67471, - "mrr_at_10": 0.68168, - "mrr_at_50": 0.68513, - "mrr_at_100": 0.68531, - "mrr_at_1000": 0.68531 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.52607, - "ndcg_at_3": 0.48009, - "ndcg_at_5": 0.49324, - "ndcg_at_10": 0.53143, - "ndcg_at_50": 0.57457, - "ndcg_at_100": 0.57964, - "ndcg_at_1000": 0.57964, - "map_at_1": 0.2302, - "map_at_3": 0.35679, - "map_at_5": 0.4004, - "map_at_10": 0.4356, - "map_at_50": 0.45382, - "map_at_100": 0.45464, - "map_at_1000": 0.45464, - "recall_at_1": 0.2302, - "recall_at_3": 0.40788, - "recall_at_5": 0.49639, - "recall_at_10": 0.60124, - "recall_at_50": 0.73467, - "recall_at_100": 0.75763, - "recall_at_1000": 0.75763, - "precision_at_1": 0.52607, - "precision_at_3": 0.35774, - "precision_at_5": 0.27534, - "precision_at_10": 0.17598, - "precision_at_50": 0.04415, - "precision_at_100": 0.02274, - "precision_at_1000": 0.00227, - "mrr_at_1": 0.52724, - "mrr_at_3": 0.6035, - "mrr_at_5": 0.61586, - "mrr_at_10": 0.62451, - "mrr_at_50": 0.62808, - "mrr_at_100": 0.62826, - "mrr_at_1000": 0.62826 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.43849, - "ndcg_at_3": 0.46324, - "ndcg_at_5": 0.48093, - "ndcg_at_10": 0.50328, - "ndcg_at_50": 0.52754, - "ndcg_at_100": 0.53028, - "ndcg_at_1000": 0.53028, - "map_at_1": 0.27081, - "map_at_3": 0.38909, - "map_at_5": 0.42206, - "map_at_10": 0.44527, - "map_at_50": 0.45596, - "map_at_100": 0.45625, - "map_at_1000": 0.45625, - "recall_at_1": 0.27081, - "recall_at_3": 0.44604, - "recall_at_5": 0.51557, - "recall_at_10": 0.58211, - "recall_at_50": 0.66013, - "recall_at_100": 0.67565, - "recall_at_1000": 0.67565, - "precision_at_1": 0.43849, - "precision_at_3": 0.28686, - "precision_at_5": 0.21577, - "precision_at_10": 0.13148, - "precision_at_50": 0.0309, - "precision_at_100": 0.01567, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.43849, - "mrr_at_3": 0.50536, - "mrr_at_5": 0.51596, - "mrr_at_10": 0.52145, - "mrr_at_50": 0.52412, - "mrr_at_100": 0.52435, - "mrr_at_1000": 0.52435 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.65142, - "ndcg_at_3": 0.59366, - "ndcg_at_5": 0.60175, - "ndcg_at_10": 0.62297, - "ndcg_at_50": 0.64119, - "ndcg_at_100": 0.64356, - "ndcg_at_1000": 0.64356, - "map_at_1": 0.37948, - "map_at_3": 0.49394, - "map_at_5": 0.52502, - "map_at_10": 0.54595, - "map_at_50": 0.55444, - "map_at_100": 0.55479, - "map_at_1000": 0.55479, - "recall_at_1": 0.37948, - "recall_at_3": 0.54353, - "recall_at_5": 0.60312, - "recall_at_10": 0.66141, - "recall_at_50": 0.71618, - "recall_at_100": 0.72745, - "recall_at_1000": 0.72745, - "precision_at_1": 0.65142, - "precision_at_3": 0.36441, - "precision_at_5": 0.25953, - "precision_at_10": 0.15119, - "precision_at_50": 0.03383, - "precision_at_100": 0.01719, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.65142, - "mrr_at_3": 0.71463, - "mrr_at_5": 0.72071, - "mrr_at_10": 0.72408, - "mrr_at_50": 0.72572, - "mrr_at_100": 0.72581, - "mrr_at_1000": 0.72581 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.4818, - "ndcg_at_3": 0.43556, - "ndcg_at_5": 0.43727, - "ndcg_at_10": 0.47261, - "ndcg_at_50": 0.51535, - "ndcg_at_100": 0.51915, - "ndcg_at_1000": 0.51915, - "map_at_1": 0.20356, - "map_at_3": 0.30461, - "map_at_5": 0.33981, - "map_at_10": 0.37465, - "map_at_50": 0.39346, - "map_at_100": 0.39401, - "map_at_1000": 0.39401, - "recall_at_1": 0.20356, - "recall_at_3": 0.35716, - "recall_at_5": 0.42956, - "recall_at_10": 0.53082, - "recall_at_50": 0.65819, - "recall_at_100": 0.67634, - "recall_at_1000": 0.67634, - "precision_at_1": 0.4818, - "precision_at_3": 0.32736, - "precision_at_5": 0.24957, - "precision_at_10": 0.16493, - "precision_at_50": 0.04213, - "precision_at_100": 0.02149, - "precision_at_1000": 0.00215, - "mrr_at_1": 0.4818, - "mrr_at_3": 0.56162, - "mrr_at_5": 0.57349, - "mrr_at_10": 0.58065, - "mrr_at_50": 0.58432, - "mrr_at_100": 0.58452, - "mrr_at_1000": 0.58452 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.49326, - "ndcg_at_3": 0.46424, - "ndcg_at_5": 0.46496, - "ndcg_at_10": 0.4876, - "ndcg_at_50": 0.5216, - "ndcg_at_100": 0.52401, - "ndcg_at_1000": 0.52401, - "map_at_1": 0.23514, - "map_at_3": 0.32993, - "map_at_5": 0.36583, - "map_at_10": 0.3991, - "map_at_50": 0.4154, - "map_at_100": 0.41589, - "map_at_1000": 0.41589, - "recall_at_1": 0.23514, - "recall_at_3": 0.38015, - "recall_at_5": 0.45024, - "recall_at_10": 0.53164, - "recall_at_50": 0.62556, - "recall_at_100": 0.6352, - "recall_at_1000": 0.6352, - "precision_at_1": 0.49326, - "precision_at_3": 0.32845, - "precision_at_5": 0.25659, - "precision_at_10": 0.16684, - "precision_at_50": 0.04149, - "precision_at_100": 0.02112, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.49268, - "mrr_at_3": 0.57459, - "mrr_at_5": 0.58716, - "mrr_at_10": 0.59253, - "mrr_at_50": 0.59525, - "mrr_at_100": 0.5953, - "mrr_at_1000": 0.5953 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.53179, - "ndcg_at_3": 0.48385, - "ndcg_at_5": 0.48768, - "ndcg_at_10": 0.53842, - "ndcg_at_50": 0.62241, - "ndcg_at_100": 0.6339, - "ndcg_at_1000": 0.6339, - "map_at_1": 0.16847, - "map_at_3": 0.30775, - "map_at_5": 0.36597, - "map_at_10": 0.42675, - "map_at_50": 0.46718, - "map_at_100": 0.4693, - "map_at_1000": 0.4693, - "recall_at_1": 0.16847, - "recall_at_3": 0.34851, - "recall_at_5": 0.45317, - "recall_at_10": 0.6048, - "recall_at_50": 0.84977, - "recall_at_100": 0.89872, - "recall_at_1000": 0.89872, - "precision_at_1": 0.53179, - "precision_at_3": 0.40944, - "precision_at_5": 0.33931, - "precision_at_10": 0.23699, - "precision_at_50": 0.06624, - "precision_at_100": 0.0348, - "precision_at_1000": 0.00348, - "mrr_at_1": 0.53179, - "mrr_at_3": 0.61416, - "mrr_at_5": 0.62905, - "mrr_at_10": 0.64043, - "mrr_at_50": 0.64618, - "mrr_at_100": 0.6465, - "mrr_at_1000": 0.6465 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.54354, - "ndcg_at_3": 0.50139, - "ndcg_at_5": 0.48485, - "ndcg_at_10": 0.52852, - "ndcg_at_50": 0.62212, - "ndcg_at_100": 0.63222, - "ndcg_at_1000": 0.63222, - "map_at_1": 0.15771, - "map_at_3": 0.2914, - "map_at_5": 0.34716, - "map_at_10": 0.41608, - "map_at_50": 0.46357, - "map_at_100": 0.46569, - "map_at_1000": 0.46569, - "recall_at_1": 0.15771, - "recall_at_3": 0.32876, - "recall_at_5": 0.42466, - "recall_at_10": 0.57699, - "recall_at_50": 0.83855, - "recall_at_100": 0.88072, - "recall_at_1000": 0.88072, - "precision_at_1": 0.54354, - "precision_at_3": 0.43844, - "precision_at_5": 0.35736, - "precision_at_10": 0.25526, - "precision_at_50": 0.07393, - "precision_at_100": 0.03853, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.54354, - "mrr_at_3": 0.62362, - "mrr_at_5": 0.63894, - "mrr_at_10": 0.64732, - "mrr_at_50": 0.65279, - "mrr_at_100": 0.65295, - "mrr_at_1000": 0.65295 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.60059, - "ndcg_at_3": 0.54504, - "ndcg_at_5": 0.54121, - "ndcg_at_10": 0.57991, - "ndcg_at_50": 0.65545, - "ndcg_at_100": 0.66412, - "ndcg_at_1000": 0.66412, - "map_at_1": 0.17829, - "map_at_3": 0.32596, - "map_at_5": 0.39985, - "map_at_10": 0.46822, - "map_at_50": 0.51031, - "map_at_100": 0.51178, - "map_at_1000": 0.51178, - "recall_at_1": 0.17829, - "recall_at_3": 0.36647, - "recall_at_5": 0.48472, - "recall_at_10": 0.63813, - "recall_at_50": 0.84148, - "recall_at_100": 0.88025, - "recall_at_1000": 0.88025, - "precision_at_1": 0.60059, - "precision_at_3": 0.46943, - "precision_at_5": 0.39527, - "precision_at_10": 0.27633, - "precision_at_50": 0.07462, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.60059, - "mrr_at_3": 0.6711, - "mrr_at_5": 0.68309, - "mrr_at_10": 0.6923, - "mrr_at_50": 0.69567, - "mrr_at_100": 0.69599, - "mrr_at_1000": 0.69599 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.60177, - "ndcg_at_3": 0.54037, - "ndcg_at_5": 0.55124, - "ndcg_at_10": 0.60188, - "ndcg_at_50": 0.68681, - "ndcg_at_100": 0.69508, - "ndcg_at_1000": 0.69508, - "map_at_1": 0.20635, - "map_at_3": 0.36149, - "map_at_5": 0.42677, - "map_at_10": 0.49033, - "map_at_50": 0.53527, - "map_at_100": 0.5368, - "map_at_1000": 0.5368, - "recall_at_1": 0.20635, - "recall_at_3": 0.40231, - "recall_at_5": 0.51879, - "recall_at_10": 0.66313, - "recall_at_50": 0.90108, - "recall_at_100": 0.938, - "recall_at_1000": 0.938, - "precision_at_1": 0.60177, - "precision_at_3": 0.45428, - "precision_at_5": 0.37286, - "precision_at_10": 0.25575, - "precision_at_50": 0.07103, - "precision_at_100": 0.03667, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.60177, - "mrr_at_3": 0.6824, - "mrr_at_5": 0.69671, - "mrr_at_10": 0.70435, - "mrr_at_50": 0.70735, - "mrr_at_100": 0.70765, - "mrr_at_1000": 0.70765 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.77446, - "ndcg_at_3": 0.69171, - "ndcg_at_5": 0.68052, - "ndcg_at_10": 0.72443, - "ndcg_at_50": 0.79478, - "ndcg_at_100": 0.79749, - "ndcg_at_1000": 0.79749, - "map_at_1": 0.27482, - "map_at_3": 0.46474, - "map_at_5": 0.54313, - "map_at_10": 0.61718, - "map_at_50": 0.66053, - "map_at_100": 0.66124, - "map_at_1000": 0.66124, - "recall_at_1": 0.27482, - "recall_at_3": 0.50327, - "recall_at_5": 0.62061, - "recall_at_10": 0.76463, - "recall_at_50": 0.94948, - "recall_at_100": 0.95929, - "recall_at_1000": 0.95929, - "precision_at_1": 0.77446, - "precision_at_3": 0.5625, - "precision_at_5": 0.45163, - "precision_at_10": 0.30027, - "precision_at_50": 0.07701, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.77446, - "mrr_at_3": 0.83514, - "mrr_at_5": 0.84275, - "mrr_at_10": 0.84406, - "mrr_at_50": 0.84608, - "mrr_at_100": 0.84608, - "mrr_at_1000": 0.84608 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.60714, - "ndcg_at_3": 0.5569, - "ndcg_at_5": 0.56896, - "ndcg_at_10": 0.61543, - "ndcg_at_50": 0.66638, - "ndcg_at_100": 0.67315, - "ndcg_at_1000": 0.67315, - "map_at_1": 0.27024, - "map_at_3": 0.41897, - "map_at_5": 0.4757, - "map_at_10": 0.52245, - "map_at_50": 0.5468, - "map_at_100": 0.54783, - "map_at_1000": 0.54783, - "recall_at_1": 0.27024, - "recall_at_3": 0.46548, - "recall_at_5": 0.56557, - "recall_at_10": 0.68735, - "recall_at_50": 0.83506, - "recall_at_100": 0.86906, - "recall_at_1000": 0.86906, - "precision_at_1": 0.60714, - "precision_at_3": 0.41468, - "precision_at_5": 0.32381, - "precision_at_10": 0.2122, - "precision_at_50": 0.05411, - "precision_at_100": 0.0278, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.61012, - "mrr_at_3": 0.67708, - "mrr_at_5": 0.68929, - "mrr_at_10": 0.69735, - "mrr_at_50": 0.69922, - "mrr_at_100": 0.6996, - "mrr_at_1000": 0.6996 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.63662, - "ndcg_at_3": 0.60579, - "ndcg_at_5": 0.62114, - "ndcg_at_10": 0.66934, - "ndcg_at_50": 0.71761, - "ndcg_at_100": 0.72057, - "ndcg_at_1000": 0.72057, - "map_at_1": 0.29962, - "map_at_3": 0.47744, - "map_at_5": 0.52751, - "map_at_10": 0.56858, - "map_at_50": 0.59126, - "map_at_100": 0.59175, - "map_at_1000": 0.59175, - "recall_at_1": 0.29962, - "recall_at_3": 0.54889, - "recall_at_5": 0.64286, - "recall_at_10": 0.75972, - "recall_at_50": 0.90759, - "recall_at_100": 0.92139, - "recall_at_1000": 0.92139, - "precision_at_1": 0.63662, - "precision_at_3": 0.43944, - "precision_at_5": 0.32732, - "precision_at_10": 0.20366, - "precision_at_50": 0.05003, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.63662, - "mrr_at_3": 0.73146, - "mrr_at_5": 0.73948, - "mrr_at_10": 0.74623, - "mrr_at_50": 0.7488, - "mrr_at_100": 0.74889, - "mrr_at_1000": 0.74889 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64146, - "ndcg_at_3": 0.57891, - "ndcg_at_5": 0.5933, - "ndcg_at_10": 0.65051, - "ndcg_at_50": 0.70304, - "ndcg_at_100": 0.70855, - "ndcg_at_1000": 0.70855, - "map_at_1": 0.3191, - "map_at_3": 0.46476, - "map_at_5": 0.50741, - "map_at_10": 0.55255, - "map_at_50": 0.5755, - "map_at_100": 0.57631, - "map_at_1000": 0.57631, - "recall_at_1": 0.3191, - "recall_at_3": 0.51294, - "recall_at_5": 0.60082, - "recall_at_10": 0.74073, - "recall_at_50": 0.89899, - "recall_at_100": 0.92692, - "recall_at_1000": 0.92692, - "precision_at_1": 0.64146, - "precision_at_3": 0.4071, - "precision_at_5": 0.30028, - "precision_at_10": 0.19412, - "precision_at_50": 0.04936, - "precision_at_100": 0.02527, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.64146, - "mrr_at_3": 0.70401, - "mrr_at_5": 0.71802, - "mrr_at_10": 0.72679, - "mrr_at_50": 0.72976, - "mrr_at_100": 0.72996, - "mrr_at_1000": 0.72996 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.65323, - "ndcg_at_3": 0.59831, - "ndcg_at_5": 0.60716, - "ndcg_at_10": 0.64474, - "ndcg_at_50": 0.69344, - "ndcg_at_100": 0.69925, - "ndcg_at_1000": 0.69925, - "map_at_1": 0.34964, - "map_at_3": 0.49058, - "map_at_5": 0.52698, - "map_at_10": 0.5568, - "map_at_50": 0.57885, - "map_at_100": 0.57983, - "map_at_1000": 0.57983, - "recall_at_1": 0.34964, - "recall_at_3": 0.54171, - "recall_at_5": 0.61322, - "recall_at_10": 0.69844, - "recall_at_50": 0.84187, - "recall_at_100": 0.86893, - "recall_at_1000": 0.86893, - "precision_at_1": 0.65323, - "precision_at_3": 0.39427, - "precision_at_5": 0.28871, - "precision_at_10": 0.17608, - "precision_at_50": 0.04511, - "precision_at_100": 0.02325, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.65323, - "mrr_at_3": 0.72446, - "mrr_at_5": 0.73414, - "mrr_at_10": 0.73878, - "mrr_at_50": 0.74152, - "mrr_at_100": 0.7417, - "mrr_at_1000": 0.7417 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.48361, - "ndcg_at_3": 0.45194, - "ndcg_at_5": 0.4619, - "ndcg_at_10": 0.51845, - "ndcg_at_50": 0.60087, - "ndcg_at_100": 0.61146, - "ndcg_at_1000": 0.61146, - "map_at_1": 0.20746, - "map_at_3": 0.32711, - "map_at_5": 0.36738, - "map_at_10": 0.41503, - "map_at_50": 0.45073, - "map_at_100": 0.45249, - "map_at_1000": 0.45249, - "recall_at_1": 0.20746, - "recall_at_3": 0.37909, - "recall_at_5": 0.46303, - "recall_at_10": 0.60254, - "recall_at_50": 0.85098, - "recall_at_100": 0.90128, - "recall_at_1000": 0.90128, - "precision_at_1": 0.48361, - "precision_at_3": 0.34699, - "precision_at_5": 0.27158, - "precision_at_10": 0.18852, - "precision_at_50": 0.05475, - "precision_at_100": 0.02866, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.48361, - "mrr_at_3": 0.5765, - "mrr_at_5": 0.58852, - "mrr_at_10": 0.59698, - "mrr_at_50": 0.60419, - "mrr_at_100": 0.60471, - "mrr_at_1000": 0.60471 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.55135, - "ndcg_at_3": 0.55316, - "ndcg_at_5": 0.58448, - "ndcg_at_10": 0.63556, - "ndcg_at_50": 0.69104, - "ndcg_at_100": 0.69632, - "ndcg_at_1000": 0.69632, - "map_at_1": 0.29015, - "map_at_3": 0.4488, - "map_at_5": 0.49609, - "map_at_10": 0.53697, - "map_at_50": 0.55984, - "map_at_100": 0.56071, - "map_at_1000": 0.56071, - "recall_at_1": 0.29015, - "recall_at_3": 0.53785, - "recall_at_5": 0.6453, - "recall_at_10": 0.76154, - "recall_at_50": 0.94793, - "recall_at_100": 0.97392, - "recall_at_1000": 0.97392, - "precision_at_1": 0.55135, - "precision_at_3": 0.37117, - "precision_at_5": 0.28162, - "precision_at_10": 0.17946, - "precision_at_50": 0.04524, - "precision_at_100": 0.02316, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.55135, - "mrr_at_3": 0.6545, - "mrr_at_5": 0.66815, - "mrr_at_10": 0.6748, - "mrr_at_50": 0.67939, - "mrr_at_100": 0.67955, - "mrr_at_1000": 0.67955 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41104, - "ndcg_at_3": 0.4586, - "ndcg_at_5": 0.4994, - "ndcg_at_10": 0.55377, - "ndcg_at_50": 0.60255, - "ndcg_at_100": 0.60616, - "ndcg_at_1000": 0.60616, - "map_at_1": 0.26051, - "map_at_3": 0.38684, - "map_at_5": 0.42439, - "map_at_10": 0.45812, - "map_at_50": 0.47522, - "map_at_100": 0.47581, - "map_at_1000": 0.47581, - "recall_at_1": 0.26051, - "recall_at_3": 0.48002, - "recall_at_5": 0.58439, - "recall_at_10": 0.72195, - "recall_at_50": 0.89862, - "recall_at_100": 0.91656, - "recall_at_1000": 0.91656, - "precision_at_1": 0.41104, - "precision_at_3": 0.2863, - "precision_at_5": 0.21902, - "precision_at_10": 0.14049, - "precision_at_50": 0.03558, - "precision_at_100": 0.01816, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.41104, - "mrr_at_3": 0.52198, - "mrr_at_5": 0.54269, - "mrr_at_10": 0.55372, - "mrr_at_50": 0.55895, - "mrr_at_100": 0.55904, - "mrr_at_1000": 0.55904 - }, - "gpt3": { - "ndcg_at_1": 0.36795, - "ndcg_at_3": 0.45534, - "ndcg_at_5": 0.50285, - "ndcg_at_10": 0.54091, - "ndcg_at_50": 0.5843, - "ndcg_at_100": 0.59548, - "ndcg_at_1000": 0.59548, - "map_at_1": 0.29402, - "map_at_3": 0.40525, - "map_at_5": 0.43677, - "map_at_10": 0.45621, - "map_at_50": 0.46965, - "map_at_100": 0.47096, - "map_at_1000": 0.47096, - "recall_at_1": 0.29402, - "recall_at_3": 0.51558, - "recall_at_5": 0.62141, - "recall_at_10": 0.72453, - "recall_at_50": 0.89045, - "recall_at_100": 0.95326, - "recall_at_1000": 0.95326, - "precision_at_1": 0.36795, - "precision_at_3": 0.23442, - "precision_at_5": 0.17329, - "precision_at_10": 0.10386, - "precision_at_50": 0.02635, - "precision_at_100": 0.01404, - "precision_at_1000": 0.0014, - "mrr_at_1": 0.36795, - "mrr_at_3": 0.48516, - "mrr_at_5": 0.50757, - "mrr_at_10": 0.5182, - "mrr_at_50": 0.52454, - "mrr_at_100": 0.52522, - "mrr_at_1000": 0.52522 - }, - "llm-survey": { - "ndcg_at_1": 0.46779, - "ndcg_at_3": 0.42713, - "ndcg_at_5": 0.46125, - "ndcg_at_10": 0.50421, - "ndcg_at_50": 0.56233, - "ndcg_at_100": 0.579, - "ndcg_at_1000": 0.579, - "map_at_1": 0.21437, - "map_at_3": 0.32985, - "map_at_5": 0.37883, - "map_at_10": 0.41275, - "map_at_50": 0.43604, - "map_at_100": 0.43829, - "map_at_1000": 0.43829, - "recall_at_1": 0.21437, - "recall_at_3": 0.3811, - "recall_at_5": 0.48374, - "recall_at_10": 0.59676, - "recall_at_50": 0.78886, - "recall_at_100": 0.87483, - "recall_at_1000": 0.87483, - "precision_at_1": 0.46779, - "precision_at_3": 0.30812, - "precision_at_5": 0.2521, - "precision_at_10": 0.16106, - "precision_at_50": 0.04275, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.46779, - "mrr_at_3": 0.53922, - "mrr_at_5": 0.55434, - "mrr_at_10": 0.56489, - "mrr_at_50": 0.56981, - "mrr_at_100": 0.57054, - "mrr_at_1000": 0.57054 - }, - "gemini": { - "ndcg_at_1": 0.37751, - "ndcg_at_3": 0.50392, - "ndcg_at_5": 0.53191, - "ndcg_at_10": 0.55783, - "ndcg_at_50": 0.59791, - "ndcg_at_100": 0.60593, - "ndcg_at_1000": 0.60593, - "map_at_1": 0.37751, - "map_at_3": 0.4739, - "map_at_5": 0.48936, - "map_at_10": 0.50002, - "map_at_50": 0.50948, - "map_at_100": 0.51025, - "map_at_1000": 0.51025, - "recall_at_1": 0.37751, - "recall_at_3": 0.59036, - "recall_at_5": 0.65863, - "recall_at_10": 0.73896, - "recall_at_50": 0.91165, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.37751, - "precision_at_3": 0.19679, - "precision_at_5": 0.13173, - "precision_at_10": 0.0739, - "precision_at_50": 0.01823, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.37751, - "mrr_at_3": 0.4739, - "mrr_at_5": 0.48936, - "mrr_at_10": 0.50002, - "mrr_at_50": 0.5095, - "mrr_at_100": 0.51027, - "mrr_at_1000": 0.51027 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.28651, - "ndcg_at_3": 0.27211, - "ndcg_at_5": 0.27218, - "ndcg_at_10": 0.28237, - "ndcg_at_50": 0.30152, - "ndcg_at_100": 0.30422, - "ndcg_at_1000": 0.30422, - "map_at_1": 0.10391, - "map_at_3": 0.17664, - "map_at_5": 0.20629, - "map_at_10": 0.23224, - "map_at_50": 0.24105, - "map_at_100": 0.24141, - "map_at_1000": 0.24141, - "recall_at_1": 0.10391, - "recall_at_3": 0.20447, - "recall_at_5": 0.25273, - "recall_at_10": 0.30337, - "recall_at_50": 0.36355, - "recall_at_100": 0.37618, - "recall_at_1000": 0.37618, - "precision_at_1": 0.28651, - "precision_at_3": 0.22432, - "precision_at_5": 0.18068, - "precision_at_10": 0.11805, - "precision_at_50": 0.02781, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.28706, - "mrr_at_3": 0.33352, - "mrr_at_5": 0.3391, - "mrr_at_10": 0.34213, - "mrr_at_50": 0.34421, - "mrr_at_100": 0.34438, - "mrr_at_1000": 0.34438 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.49504, - "ndcg_at_3": 0.48778, - "ndcg_at_5": 0.49028, - "ndcg_at_10": 0.50808, - "ndcg_at_50": 0.53455, - "ndcg_at_100": 0.53709, - "ndcg_at_1000": 0.53709, - "map_at_1": 0.20997, - "map_at_3": 0.33048, - "map_at_5": 0.38388, - "map_at_10": 0.43098, - "map_at_50": 0.44561, - "map_at_100": 0.44605, - "map_at_1000": 0.44605, - "recall_at_1": 0.20997, - "recall_at_3": 0.37213, - "recall_at_5": 0.45787, - "recall_at_10": 0.55224, - "recall_at_50": 0.62513, - "recall_at_100": 0.63614, - "recall_at_1000": 0.63614, - "precision_at_1": 0.49504, - "precision_at_3": 0.37836, - "precision_at_5": 0.30991, - "precision_at_10": 0.20471, - "precision_at_50": 0.0476, - "precision_at_100": 0.02413, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.49442, - "mrr_at_3": 0.56495, - "mrr_at_5": 0.5758, - "mrr_at_10": 0.58226, - "mrr_at_50": 0.58479, - "mrr_at_100": 0.58494, - "mrr_at_1000": 0.58494 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.72812, - "ndcg_at_3": 0.69223, - "ndcg_at_5": 0.68171, - "ndcg_at_10": 0.70256, - "ndcg_at_50": 0.73329, - "ndcg_at_100": 0.73531, - "ndcg_at_1000": 0.73531, - "map_at_1": 0.19716, - "map_at_3": 0.3897, - "map_at_5": 0.49537, - "map_at_10": 0.60572, - "map_at_50": 0.62836, - "map_at_100": 0.62884, - "map_at_1000": 0.62884, - "recall_at_1": 0.19716, - "recall_at_3": 0.42495, - "recall_at_5": 0.5662, - "recall_at_10": 0.7327, - "recall_at_50": 0.81093, - "recall_at_100": 0.81887, - "recall_at_1000": 0.81887, - "precision_at_1": 0.72812, - "precision_at_3": 0.61945, - "precision_at_5": 0.53689, - "precision_at_10": 0.37713, - "precision_at_50": 0.08427, - "precision_at_100": 0.04248, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.72812, - "mrr_at_3": 0.79087, - "mrr_at_5": 0.79824, - "mrr_at_10": 0.80103, - "mrr_at_50": 0.80186, - "mrr_at_100": 0.8019, - "mrr_at_1000": 0.8019 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.44405, - "ndcg_at_3": 0.43152, - "ndcg_at_5": 0.45122, - "ndcg_at_10": 0.48936, - "ndcg_at_50": 0.538, - "ndcg_at_100": 0.54361, - "ndcg_at_1000": 0.54361, - "map_at_1": 0.18719, - "map_at_3": 0.3112, - "map_at_5": 0.36059, - "map_at_10": 0.39802, - "map_at_50": 0.41586, - "map_at_100": 0.41672, - "map_at_1000": 0.41672, - "recall_at_1": 0.18719, - "recall_at_3": 0.36864, - "recall_at_5": 0.46568, - "recall_at_10": 0.57368, - "recall_at_50": 0.73192, - "recall_at_100": 0.75763, - "recall_at_1000": 0.75763, - "precision_at_1": 0.44405, - "precision_at_3": 0.33568, - "precision_at_5": 0.26995, - "precision_at_10": 0.17282, - "precision_at_50": 0.04412, - "precision_at_100": 0.02274, - "precision_at_1000": 0.00227, - "mrr_at_1": 0.44405, - "mrr_at_3": 0.53046, - "mrr_at_5": 0.54461, - "mrr_at_10": 0.55387, - "mrr_at_50": 0.55954, - "mrr_at_100": 0.5598, - "mrr_at_1000": 0.5598 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.40946, - "ndcg_at_3": 0.42907, - "ndcg_at_5": 0.44651, - "ndcg_at_10": 0.47269, - "ndcg_at_50": 0.5015, - "ndcg_at_100": 0.5058, - "ndcg_at_1000": 0.5058, - "map_at_1": 0.25809, - "map_at_3": 0.35957, - "map_at_5": 0.39258, - "map_at_10": 0.41842, - "map_at_50": 0.42906, - "map_at_100": 0.42961, - "map_at_1000": 0.42961, - "recall_at_1": 0.25809, - "recall_at_3": 0.40927, - "recall_at_5": 0.4748, - "recall_at_10": 0.55339, - "recall_at_50": 0.65342, - "recall_at_100": 0.67565, - "recall_at_1000": 0.67565, - "precision_at_1": 0.40946, - "precision_at_3": 0.26477, - "precision_at_5": 0.20278, - "precision_at_10": 0.12732, - "precision_at_50": 0.03051, - "precision_at_100": 0.01567, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.40883, - "mrr_at_3": 0.46551, - "mrr_at_5": 0.47381, - "mrr_at_10": 0.48149, - "mrr_at_50": 0.48567, - "mrr_at_100": 0.48598, - "mrr_at_1000": 0.48598 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.66126, - "ndcg_at_3": 0.61079, - "ndcg_at_5": 0.62113, - "ndcg_at_10": 0.63785, - "ndcg_at_50": 0.65227, - "ndcg_at_100": 0.65375, - "ndcg_at_1000": 0.65375, - "map_at_1": 0.38619, - "map_at_3": 0.51155, - "map_at_5": 0.54661, - "map_at_10": 0.56623, - "map_at_50": 0.57196, - "map_at_100": 0.57217, - "map_at_1000": 0.57217, - "recall_at_1": 0.38619, - "recall_at_3": 0.55696, - "recall_at_5": 0.62434, - "recall_at_10": 0.67491, - "recall_at_50": 0.72021, - "recall_at_100": 0.72745, - "recall_at_1000": 0.72745, - "precision_at_1": 0.66126, - "precision_at_3": 0.38217, - "precision_at_5": 0.2747, - "precision_at_10": 0.15617, - "precision_at_50": 0.03405, - "precision_at_100": 0.01719, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.66126, - "mrr_at_3": 0.71753, - "mrr_at_5": 0.72607, - "mrr_at_10": 0.72887, - "mrr_at_50": 0.7307, - "mrr_at_100": 0.73076, - "mrr_at_1000": 0.73076 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.47198, - "ndcg_at_3": 0.44485, - "ndcg_at_5": 0.4588, - "ndcg_at_10": 0.49055, - "ndcg_at_50": 0.52363, - "ndcg_at_100": 0.52651, - "ndcg_at_1000": 0.52651, - "map_at_1": 0.18991, - "map_at_3": 0.30528, - "map_at_5": 0.35618, - "map_at_10": 0.39477, - "map_at_50": 0.40869, - "map_at_100": 0.40907, - "map_at_1000": 0.40907, - "recall_at_1": 0.18991, - "recall_at_3": 0.36525, - "recall_at_5": 0.45971, - "recall_at_10": 0.55691, - "recall_at_50": 0.66153, - "recall_at_100": 0.67634, - "recall_at_1000": 0.67634, - "precision_at_1": 0.47198, - "precision_at_3": 0.34893, - "precision_at_5": 0.28342, - "precision_at_10": 0.18065, - "precision_at_50": 0.04243, - "precision_at_100": 0.02149, - "precision_at_1000": 0.00215, - "mrr_at_1": 0.47198, - "mrr_at_3": 0.55989, - "mrr_at_5": 0.57205, - "mrr_at_10": 0.57871, - "mrr_at_50": 0.5822, - "mrr_at_100": 0.58236, - "mrr_at_1000": 0.58236 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.50439, - "ndcg_at_3": 0.4954, - "ndcg_at_5": 0.50256, - "ndcg_at_10": 0.52081, - "ndcg_at_50": 0.54164, - "ndcg_at_100": 0.54317, - "ndcg_at_1000": 0.54317, - "map_at_1": 0.23507, - "map_at_3": 0.34963, - "map_at_5": 0.39799, - "map_at_10": 0.43379, - "map_at_50": 0.44446, - "map_at_100": 0.44474, - "map_at_1000": 0.44474, - "recall_at_1": 0.23507, - "recall_at_3": 0.40277, - "recall_at_5": 0.49233, - "recall_at_10": 0.57076, - "recall_at_50": 0.6288, - "recall_at_100": 0.6352, - "recall_at_1000": 0.6352, - "precision_at_1": 0.50439, - "precision_at_3": 0.36653, - "precision_at_5": 0.29443, - "precision_at_10": 0.18494, - "precision_at_50": 0.04179, - "precision_at_100": 0.02112, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.50381, - "mrr_at_3": 0.59051, - "mrr_at_5": 0.60431, - "mrr_at_10": 0.60924, - "mrr_at_50": 0.61076, - "mrr_at_100": 0.61081, - "mrr_at_1000": 0.61081 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.5289, - "ndcg_at_3": 0.49995, - "ndcg_at_5": 0.51597, - "ndcg_at_10": 0.56596, - "ndcg_at_50": 0.63941, - "ndcg_at_100": 0.64618, - "ndcg_at_1000": 0.64618, - "map_at_1": 0.16108, - "map_at_3": 0.31533, - "map_at_5": 0.39403, - "map_at_10": 0.46424, - "map_at_50": 0.49731, - "map_at_100": 0.49854, - "map_at_1000": 0.49854, - "recall_at_1": 0.16108, - "recall_at_3": 0.36385, - "recall_at_5": 0.48986, - "recall_at_10": 0.64494, - "recall_at_50": 0.86807, - "recall_at_100": 0.89872, - "recall_at_1000": 0.89872, - "precision_at_1": 0.5289, - "precision_at_3": 0.43545, - "precision_at_5": 0.37919, - "precision_at_10": 0.2604, - "precision_at_50": 0.06786, - "precision_at_100": 0.0348, - "precision_at_1000": 0.00348, - "mrr_at_1": 0.5289, - "mrr_at_3": 0.61127, - "mrr_at_5": 0.62514, - "mrr_at_10": 0.63497, - "mrr_at_50": 0.64125, - "mrr_at_100": 0.64143, - "mrr_at_1000": 0.64143 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.6006, - "ndcg_at_3": 0.55348, - "ndcg_at_5": 0.5478, - "ndcg_at_10": 0.60064, - "ndcg_at_50": 0.67012, - "ndcg_at_100": 0.6752, - "ndcg_at_1000": 0.6752, - "map_at_1": 0.16585, - "map_at_3": 0.33017, - "map_at_5": 0.41035, - "map_at_10": 0.49899, - "map_at_50": 0.53387, - "map_at_100": 0.53474, - "map_at_1000": 0.53474, - "recall_at_1": 0.16585, - "recall_at_3": 0.36828, - "recall_at_5": 0.48424, - "recall_at_10": 0.66092, - "recall_at_50": 0.85691, - "recall_at_100": 0.88072, - "recall_at_1000": 0.88072, - "precision_at_1": 0.6006, - "precision_at_3": 0.49349, - "precision_at_5": 0.41742, - "precision_at_10": 0.2979, - "precision_at_50": 0.07592, - "precision_at_100": 0.03853, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.6006, - "mrr_at_3": 0.67367, - "mrr_at_5": 0.68193, - "mrr_at_10": 0.68989, - "mrr_at_50": 0.69446, - "mrr_at_100": 0.69461, - "mrr_at_1000": 0.69461 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.63018, - "ndcg_at_3": 0.59924, - "ndcg_at_5": 0.60229, - "ndcg_at_10": 0.65024, - "ndcg_at_50": 0.7025, - "ndcg_at_100": 0.7053, - "ndcg_at_1000": 0.7053, - "map_at_1": 0.18106, - "map_at_3": 0.36406, - "map_at_5": 0.45381, - "map_at_10": 0.54785, - "map_at_50": 0.57689, - "map_at_100": 0.57751, - "map_at_1000": 0.57751, - "recall_at_1": 0.18106, - "recall_at_3": 0.41039, - "recall_at_5": 0.54411, - "recall_at_10": 0.72294, - "recall_at_50": 0.86927, - "recall_at_100": 0.88025, - "recall_at_1000": 0.88025, - "precision_at_1": 0.63018, - "precision_at_3": 0.5286, - "precision_at_5": 0.45325, - "precision_at_10": 0.31982, - "precision_at_50": 0.07592, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.63018, - "mrr_at_3": 0.70611, - "mrr_at_5": 0.7175, - "mrr_at_10": 0.72377, - "mrr_at_50": 0.72752, - "mrr_at_100": 0.72752, - "mrr_at_1000": 0.72752 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.60177, - "ndcg_at_3": 0.56572, - "ndcg_at_5": 0.57693, - "ndcg_at_10": 0.63519, - "ndcg_at_50": 0.70491, - "ndcg_at_100": 0.70888, - "ndcg_at_1000": 0.70888, - "map_at_1": 0.19219, - "map_at_3": 0.37617, - "map_at_5": 0.4537, - "map_at_10": 0.53517, - "map_at_50": 0.56883, - "map_at_100": 0.56961, - "map_at_1000": 0.56961, - "recall_at_1": 0.19219, - "recall_at_3": 0.42498, - "recall_at_5": 0.55423, - "recall_at_10": 0.71873, - "recall_at_50": 0.92138, - "recall_at_100": 0.938, - "recall_at_1000": 0.938, - "precision_at_1": 0.60177, - "precision_at_3": 0.48771, - "precision_at_5": 0.4059, - "precision_at_10": 0.28496, - "precision_at_50": 0.07221, - "precision_at_100": 0.03667, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.60177, - "mrr_at_3": 0.67207, - "mrr_at_5": 0.68727, - "mrr_at_10": 0.69413, - "mrr_at_50": 0.70007, - "mrr_at_100": 0.70021, - "mrr_at_1000": 0.70021 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.64402, - "ndcg_at_3": 0.59278, - "ndcg_at_5": 0.59595, - "ndcg_at_10": 0.66305, - "ndcg_at_50": 0.7308, - "ndcg_at_100": 0.73869, - "ndcg_at_1000": 0.73869, - "map_at_1": 0.22525, - "map_at_3": 0.39371, - "map_at_5": 0.46932, - "map_at_10": 0.55801, - "map_at_50": 0.59365, - "map_at_100": 0.59537, - "map_at_1000": 0.59537, - "recall_at_1": 0.22525, - "recall_at_3": 0.43961, - "recall_at_5": 0.55779, - "recall_at_10": 0.74207, - "recall_at_50": 0.92898, - "recall_at_100": 0.95929, - "recall_at_1000": 0.95929, - "precision_at_1": 0.64402, - "precision_at_3": 0.49457, - "precision_at_5": 0.41141, - "precision_at_10": 0.29565, - "precision_at_50": 0.07543, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.64402, - "mrr_at_3": 0.71377, - "mrr_at_5": 0.72695, - "mrr_at_10": 0.73526, - "mrr_at_50": 0.73884, - "mrr_at_100": 0.73903, - "mrr_at_1000": 0.73903 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.51786, - "ndcg_at_3": 0.50737, - "ndcg_at_5": 0.52581, - "ndcg_at_10": 0.57366, - "ndcg_at_50": 0.63123, - "ndcg_at_100": 0.63838, - "ndcg_at_1000": 0.63838, - "map_at_1": 0.22424, - "map_at_3": 0.37974, - "map_at_5": 0.43855, - "map_at_10": 0.4873, - "map_at_50": 0.51083, - "map_at_100": 0.51205, - "map_at_1000": 0.51205, - "recall_at_1": 0.22424, - "recall_at_3": 0.43563, - "recall_at_5": 0.53819, - "recall_at_10": 0.65758, - "recall_at_50": 0.83764, - "recall_at_100": 0.86906, - "recall_at_1000": 0.86906, - "precision_at_1": 0.51786, - "precision_at_3": 0.39087, - "precision_at_5": 0.31429, - "precision_at_10": 0.20714, - "precision_at_50": 0.05357, - "precision_at_100": 0.0278, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.51786, - "mrr_at_3": 0.59772, - "mrr_at_5": 0.61022, - "mrr_at_10": 0.61932, - "mrr_at_50": 0.62527, - "mrr_at_100": 0.62551, - "mrr_at_1000": 0.62551 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.59718, - "ndcg_at_3": 0.55023, - "ndcg_at_5": 0.57615, - "ndcg_at_10": 0.63774, - "ndcg_at_50": 0.68555, - "ndcg_at_100": 0.69059, - "ndcg_at_1000": 0.69059, - "map_at_1": 0.28197, - "map_at_3": 0.43031, - "map_at_5": 0.48396, - "map_at_10": 0.5385, - "map_at_50": 0.55769, - "map_at_100": 0.55845, - "map_at_1000": 0.55845, - "recall_at_1": 0.28197, - "recall_at_3": 0.48842, - "recall_at_5": 0.59431, - "recall_at_10": 0.73645, - "recall_at_50": 0.89561, - "recall_at_100": 0.92139, - "recall_at_1000": 0.92139, - "precision_at_1": 0.59718, - "precision_at_3": 0.4, - "precision_at_5": 0.31211, - "precision_at_10": 0.20535, - "precision_at_50": 0.04975, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.59718, - "mrr_at_3": 0.6831, - "mrr_at_5": 0.69324, - "mrr_at_10": 0.69831, - "mrr_at_50": 0.70295, - "mrr_at_100": 0.7032, - "mrr_at_1000": 0.7032 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.56583, - "ndcg_at_3": 0.53964, - "ndcg_at_5": 0.5701, - "ndcg_at_10": 0.62313, - "ndcg_at_50": 0.67606, - "ndcg_at_100": 0.68203, - "ndcg_at_1000": 0.68203, - "map_at_1": 0.27247, - "map_at_3": 0.42677, - "map_at_5": 0.48088, - "map_at_10": 0.52397, - "map_at_50": 0.54467, - "map_at_100": 0.54567, - "map_at_1000": 0.54567, - "recall_at_1": 0.27247, - "recall_at_3": 0.49274, - "recall_at_5": 0.60474, - "recall_at_10": 0.72763, - "recall_at_50": 0.89792, - "recall_at_100": 0.92692, - "recall_at_1000": 0.92692, - "precision_at_1": 0.56583, - "precision_at_3": 0.38936, - "precision_at_5": 0.30308, - "precision_at_10": 0.19468, - "precision_at_50": 0.04919, - "precision_at_100": 0.02527, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.56583, - "mrr_at_3": 0.6564, - "mrr_at_5": 0.67082, - "mrr_at_10": 0.67853, - "mrr_at_50": 0.683, - "mrr_at_100": 0.68319, - "mrr_at_1000": 0.68319 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.58871, - "ndcg_at_3": 0.56545, - "ndcg_at_5": 0.58195, - "ndcg_at_10": 0.62817, - "ndcg_at_50": 0.67148, - "ndcg_at_100": 0.67538, - "ndcg_at_1000": 0.67538, - "map_at_1": 0.30175, - "map_at_3": 0.45341, - "map_at_5": 0.49936, - "map_at_10": 0.53728, - "map_at_50": 0.55423, - "map_at_100": 0.55494, - "map_at_1000": 0.55494, - "recall_at_1": 0.30175, - "recall_at_3": 0.51396, - "recall_at_5": 0.60339, - "recall_at_10": 0.71318, - "recall_at_50": 0.8532, - "recall_at_100": 0.86893, - "recall_at_1000": 0.86893, - "precision_at_1": 0.58871, - "precision_at_3": 0.38978, - "precision_at_5": 0.29785, - "precision_at_10": 0.18548, - "precision_at_50": 0.04538, - "precision_at_100": 0.02325, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.58871, - "mrr_at_3": 0.67249, - "mrr_at_5": 0.68405, - "mrr_at_10": 0.69211, - "mrr_at_50": 0.69499, - "mrr_at_100": 0.69504, - "mrr_at_1000": 0.69504 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.35246, - "ndcg_at_3": 0.34986, - "ndcg_at_5": 0.36387, - "ndcg_at_10": 0.42018, - "ndcg_at_50": 0.51715, - "ndcg_at_100": 0.53595, - "ndcg_at_1000": 0.53595, - "map_at_1": 0.16518, - "map_at_3": 0.25179, - "map_at_5": 0.28626, - "map_at_10": 0.32943, - "map_at_50": 0.36392, - "map_at_100": 0.36723, - "map_at_1000": 0.36723, - "recall_at_1": 0.16518, - "recall_at_3": 0.29974, - "recall_at_5": 0.37244, - "recall_at_10": 0.51122, - "recall_at_50": 0.82068, - "recall_at_100": 0.90128, - "recall_at_1000": 0.90128, - "precision_at_1": 0.35246, - "precision_at_3": 0.26594, - "precision_at_5": 0.21366, - "precision_at_10": 0.15601, - "precision_at_50": 0.05213, - "precision_at_100": 0.02866, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.35246, - "mrr_at_3": 0.44353, - "mrr_at_5": 0.45801, - "mrr_at_10": 0.47069, - "mrr_at_50": 0.48091, - "mrr_at_100": 0.48152, - "mrr_at_1000": 0.48152 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.3973, - "ndcg_at_3": 0.41098, - "ndcg_at_5": 0.44878, - "ndcg_at_10": 0.50274, - "ndcg_at_50": 0.58091, - "ndcg_at_100": 0.5969, - "ndcg_at_1000": 0.5969, - "map_at_1": 0.22753, - "map_at_3": 0.3395, - "map_at_5": 0.38326, - "map_at_10": 0.42135, - "map_at_50": 0.4483, - "map_at_100": 0.45057, - "map_at_1000": 0.45057, - "recall_at_1": 0.22753, - "recall_at_3": 0.39666, - "recall_at_5": 0.49746, - "recall_at_10": 0.62304, - "recall_at_50": 0.89523, - "recall_at_100": 0.97392, - "recall_at_1000": 0.97392, - "precision_at_1": 0.3973, - "precision_at_3": 0.27838, - "precision_at_5": 0.22486, - "precision_at_10": 0.14973, - "precision_at_50": 0.04297, - "precision_at_100": 0.02316, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.3973, - "mrr_at_3": 0.48468, - "mrr_at_5": 0.49928, - "mrr_at_10": 0.50955, - "mrr_at_50": 0.52101, - "mrr_at_100": 0.52182, - "mrr_at_1000": 0.52182 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.46626, - "ndcg_at_3": 0.50484, - "ndcg_at_5": 0.55428, - "ndcg_at_10": 0.6131, - "ndcg_at_50": 0.64269, - "ndcg_at_100": 0.6463, - "ndcg_at_1000": 0.6463, - "map_at_1": 0.29527, - "map_at_3": 0.42764, - "map_at_5": 0.47788, - "map_at_10": 0.51932, - "map_at_50": 0.52853, - "map_at_100": 0.52889, - "map_at_1000": 0.52889, - "recall_at_1": 0.29527, - "recall_at_3": 0.52228, - "recall_at_5": 0.64028, - "recall_at_10": 0.78277, - "recall_at_50": 0.89509, - "recall_at_100": 0.91656, - "recall_at_1000": 0.91656, - "precision_at_1": 0.46626, - "precision_at_3": 0.31186, - "precision_at_5": 0.24601, - "precision_at_10": 0.15859, - "precision_at_50": 0.03583, - "precision_at_100": 0.01816, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.46626, - "mrr_at_3": 0.57515, - "mrr_at_5": 0.59371, - "mrr_at_10": 0.60248, - "mrr_at_50": 0.60657, - "mrr_at_100": 0.60686, - "mrr_at_1000": 0.60686 - }, - "gpt3": { - "ndcg_at_1": 0.33531, - "ndcg_at_3": 0.43421, - "ndcg_at_5": 0.47932, - "ndcg_at_10": 0.52771, - "ndcg_at_50": 0.57267, - "ndcg_at_100": 0.58235, - "ndcg_at_1000": 0.58235, - "map_at_1": 0.27226, - "map_at_3": 0.38769, - "map_at_5": 0.41666, - "map_at_10": 0.44319, - "map_at_50": 0.45611, - "map_at_100": 0.45725, - "map_at_1000": 0.45725, - "recall_at_1": 0.27226, - "recall_at_3": 0.50198, - "recall_at_5": 0.59619, - "recall_at_10": 0.72033, - "recall_at_50": 0.89886, - "recall_at_100": 0.95326, - "recall_at_1000": 0.95326, - "precision_at_1": 0.33531, - "precision_at_3": 0.22156, - "precision_at_5": 0.16617, - "precision_at_10": 0.10712, - "precision_at_50": 0.02659, - "precision_at_100": 0.01404, - "precision_at_1000": 0.0014, - "mrr_at_1": 0.33531, - "mrr_at_3": 0.44906, - "mrr_at_5": 0.47428, - "mrr_at_10": 0.48733, - "mrr_at_50": 0.49444, - "mrr_at_100": 0.49504, - "mrr_at_1000": 0.49504 - }, - "llm-survey": { - "ndcg_at_1": 0.43417, - "ndcg_at_3": 0.43299, - "ndcg_at_5": 0.47352, - "ndcg_at_10": 0.52297, - "ndcg_at_50": 0.57793, - "ndcg_at_100": 0.58549, - "ndcg_at_1000": 0.58549, - "map_at_1": 0.19522, - "map_at_3": 0.32947, - "map_at_5": 0.38475, - "map_at_10": 0.4281, - "map_at_50": 0.44805, - "map_at_100": 0.44904, - "map_at_1000": 0.44904, - "recall_at_1": 0.19522, - "recall_at_3": 0.39821, - "recall_at_5": 0.52515, - "recall_at_10": 0.6459, - "recall_at_50": 0.83543, - "recall_at_100": 0.87483, - "recall_at_1000": 0.87483, - "precision_at_1": 0.43417, - "precision_at_3": 0.32493, - "precision_at_5": 0.26891, - "precision_at_10": 0.17591, - "precision_at_50": 0.04471, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.43417, - "mrr_at_3": 0.52101, - "mrr_at_5": 0.54328, - "mrr_at_10": 0.55148, - "mrr_at_50": 0.55681, - "mrr_at_100": 0.55716, - "mrr_at_1000": 0.55716 - }, - "gemini": { - "ndcg_at_1": 0.41767, - "ndcg_at_3": 0.55699, - "ndcg_at_5": 0.58343, - "ndcg_at_10": 0.60728, - "ndcg_at_50": 0.63402, - "ndcg_at_100": 0.64117, - "ndcg_at_1000": 0.64117, - "map_at_1": 0.41767, - "map_at_3": 0.52075, - "map_at_5": 0.53541, - "map_at_10": 0.54553, - "map_at_50": 0.55173, - "map_at_100": 0.55235, - "map_at_1000": 0.55235, - "recall_at_1": 0.41767, - "recall_at_3": 0.66265, - "recall_at_5": 0.72691, - "recall_at_10": 0.7992, - "recall_at_50": 0.91566, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.41767, - "precision_at_3": 0.22088, - "precision_at_5": 0.14538, - "precision_at_10": 0.07992, - "precision_at_50": 0.01831, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.41767, - "mrr_at_3": 0.52075, - "mrr_at_5": 0.53461, - "mrr_at_10": 0.5454, - "mrr_at_50": 0.5517, - "mrr_at_100": 0.55232, - "mrr_at_1000": 0.55232 - } - } - } - } - } - }, - "[bge-large-en-v1.5](https://huggingface.co/BAAI/bge-large-en-v1.5)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.2432, - "ndcg_at_3": 0.22613, - "ndcg_at_5": 0.22908, - "ndcg_at_10": 0.25091, - "ndcg_at_50": 0.30324, - "ndcg_at_100": 0.31445, - "ndcg_at_1000": 0.31445, - "map_at_1": 0.08643, - "map_at_3": 0.13951, - "map_at_5": 0.1618, - "map_at_10": 0.18581, - "map_at_50": 0.20594, - "map_at_100": 0.20759, - "map_at_1000": 0.20759, - "recall_at_1": 0.08643, - "recall_at_3": 0.17442, - "recall_at_5": 0.22168, - "recall_at_10": 0.29546, - "recall_at_50": 0.45899, - "recall_at_100": 0.51166, - "recall_at_1000": 0.51166, - "precision_at_1": 0.2432, - "precision_at_3": 0.18083, - "precision_at_5": 0.14792, - "precision_at_10": 0.1045, - "precision_at_50": 0.03267, - "precision_at_100": 0.01777, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.2432, - "mrr_at_3": 0.30057, - "mrr_at_5": 0.31251, - "mrr_at_10": 0.32119, - "mrr_at_50": 0.32758, - "mrr_at_100": 0.32815, - "mrr_at_1000": 0.32815 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.40768, - "ndcg_at_3": 0.40163, - "ndcg_at_5": 0.40801, - "ndcg_at_10": 0.43906, - "ndcg_at_50": 0.50568, - "ndcg_at_100": 0.52016, - "ndcg_at_1000": 0.52016, - "map_at_1": 0.16676, - "map_at_3": 0.26808, - "map_at_5": 0.30891, - "map_at_10": 0.35378, - "map_at_50": 0.38389, - "map_at_100": 0.38651, - "map_at_1000": 0.38651, - "recall_at_1": 0.16676, - "recall_at_3": 0.31437, - "recall_at_5": 0.38996, - "recall_at_10": 0.50105, - "recall_at_50": 0.69287, - "recall_at_100": 0.75702, - "recall_at_1000": 0.75702, - "precision_at_1": 0.40768, - "precision_at_3": 0.31165, - "precision_at_5": 0.25601, - "precision_at_10": 0.18172, - "precision_at_50": 0.05318, - "precision_at_100": 0.02869, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.40768, - "mrr_at_3": 0.48751, - "mrr_at_5": 0.50064, - "mrr_at_10": 0.51087, - "mrr_at_50": 0.51709, - "mrr_at_100": 0.51753, - "mrr_at_1000": 0.51753 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.47254, - "ndcg_at_3": 0.45307, - "ndcg_at_5": 0.44951, - "ndcg_at_10": 0.48219, - "ndcg_at_50": 0.57787, - "ndcg_at_100": 0.59624, - "ndcg_at_1000": 0.59624, - "map_at_1": 0.11854, - "map_at_3": 0.23451, - "map_at_5": 0.29775, - "map_at_10": 0.37212, - "map_at_50": 0.42326, - "map_at_100": 0.42698, - "map_at_1000": 0.42698, - "recall_at_1": 0.11854, - "recall_at_3": 0.27239, - "recall_at_5": 0.37576, - "recall_at_10": 0.53211, - "recall_at_50": 0.78081, - "recall_at_100": 0.85534, - "recall_at_1000": 0.85534, - "precision_at_1": 0.47254, - "precision_at_3": 0.40951, - "precision_at_5": 0.36063, - "precision_at_10": 0.27163, - "precision_at_50": 0.08174, - "precision_at_100": 0.04396, - "precision_at_1000": 0.0044, - "mrr_at_1": 0.47254, - "mrr_at_3": 0.558, - "mrr_at_5": 0.57413, - "mrr_at_10": 0.58478, - "mrr_at_50": 0.59049, - "mrr_at_100": 0.59093, - "mrr_at_1000": 0.59093 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.39895, - "ndcg_at_3": 0.39507, - "ndcg_at_5": 0.41552, - "ndcg_at_10": 0.46004, - "ndcg_at_50": 0.52199, - "ndcg_at_100": 0.53184, - "ndcg_at_1000": 0.53184, - "map_at_1": 0.16259, - "map_at_3": 0.28063, - "map_at_5": 0.32452, - "map_at_10": 0.36396, - "map_at_50": 0.38768, - "map_at_100": 0.38922, - "map_at_1000": 0.38922, - "recall_at_1": 0.16259, - "recall_at_3": 0.33956, - "recall_at_5": 0.43316, - "recall_at_10": 0.55292, - "recall_at_50": 0.75599, - "recall_at_100": 0.80317, - "recall_at_1000": 0.80317, - "precision_at_1": 0.39895, - "precision_at_3": 0.314, - "precision_at_5": 0.25354, - "precision_at_10": 0.16878, - "precision_at_50": 0.0452, - "precision_at_100": 0.0238, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.39895, - "mrr_at_3": 0.49248, - "mrr_at_5": 0.50874, - "mrr_at_10": 0.51968, - "mrr_at_50": 0.52657, - "mrr_at_100": 0.52688, - "mrr_at_1000": 0.52688 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.30536, - "ndcg_at_3": 0.33079, - "ndcg_at_5": 0.34962, - "ndcg_at_10": 0.37951, - "ndcg_at_50": 0.43134, - "ndcg_at_100": 0.44237, - "ndcg_at_1000": 0.44237, - "map_at_1": 0.17019, - "map_at_3": 0.26389, - "map_at_5": 0.2938, - "map_at_10": 0.31738, - "map_at_50": 0.33515, - "map_at_100": 0.33662, - "map_at_1000": 0.33662, - "recall_at_1": 0.17019, - "recall_at_3": 0.31879, - "recall_at_5": 0.38831, - "recall_at_10": 0.47284, - "recall_at_50": 0.6602, - "recall_at_100": 0.71811, - "recall_at_1000": 0.71811, - "precision_at_1": 0.30536, - "precision_at_3": 0.22082, - "precision_at_5": 0.17123, - "precision_at_10": 0.11091, - "precision_at_50": 0.03138, - "precision_at_100": 0.0168, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.30536, - "mrr_at_3": 0.37256, - "mrr_at_5": 0.38435, - "mrr_at_10": 0.39274, - "mrr_at_50": 0.39958, - "mrr_at_100": 0.40024, - "mrr_at_1000": 0.40024 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.48581, - "ndcg_at_3": 0.4703, - "ndcg_at_5": 0.4891, - "ndcg_at_10": 0.5177, - "ndcg_at_50": 0.55569, - "ndcg_at_100": 0.56795, - "ndcg_at_1000": 0.56795, - "map_at_1": 0.27506, - "map_at_3": 0.38194, - "map_at_5": 0.41576, - "map_at_10": 0.43855, - "map_at_50": 0.45218, - "map_at_100": 0.45389, - "map_at_1000": 0.45389, - "recall_at_1": 0.27506, - "recall_at_3": 0.43732, - "recall_at_5": 0.51178, - "recall_at_10": 0.58949, - "recall_at_50": 0.71787, - "recall_at_100": 0.779, - "recall_at_1000": 0.779, - "precision_at_1": 0.48581, - "precision_at_3": 0.30322, - "precision_at_5": 0.22791, - "precision_at_10": 0.13752, - "precision_at_50": 0.0347, - "precision_at_100": 0.0187, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.48581, - "mrr_at_3": 0.56427, - "mrr_at_5": 0.57701, - "mrr_at_10": 0.58363, - "mrr_at_50": 0.5881, - "mrr_at_100": 0.58868, - "mrr_at_1000": 0.58868 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.34027, - "ndcg_at_3": 0.31787, - "ndcg_at_5": 0.33178, - "ndcg_at_10": 0.36737, - "ndcg_at_50": 0.43182, - "ndcg_at_100": 0.44523, - "ndcg_at_1000": 0.44523, - "map_at_1": 0.12512, - "map_at_3": 0.20681, - "map_at_5": 0.24509, - "map_at_10": 0.27795, - "map_at_50": 0.30185, - "map_at_100": 0.30374, - "map_at_1000": 0.30374, - "recall_at_1": 0.12512, - "recall_at_3": 0.2534, - "recall_at_5": 0.33652, - "recall_at_10": 0.43694, - "recall_at_50": 0.64715, - "recall_at_100": 0.71345, - "recall_at_1000": 0.71345, - "precision_at_1": 0.34027, - "precision_at_3": 0.25765, - "precision_at_5": 0.21398, - "precision_at_10": 0.14547, - "precision_at_50": 0.04206, - "precision_at_100": 0.02252, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.34027, - "mrr_at_3": 0.41931, - "mrr_at_5": 0.43563, - "mrr_at_10": 0.44557, - "mrr_at_50": 0.4524, - "mrr_at_100": 0.45311, - "mrr_at_1000": 0.45311 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.42707, - "ndcg_at_3": 0.40257, - "ndcg_at_5": 0.41417, - "ndcg_at_10": 0.44879, - "ndcg_at_50": 0.50325, - "ndcg_at_100": 0.5148, - "ndcg_at_1000": 0.5148, - "map_at_1": 0.18251, - "map_at_3": 0.27328, - "map_at_5": 0.31261, - "map_at_10": 0.34929, - "map_at_50": 0.37317, - "map_at_100": 0.375, - "map_at_1000": 0.375, - "recall_at_1": 0.18251, - "recall_at_3": 0.32854, - "recall_at_5": 0.41688, - "recall_at_10": 0.52603, - "recall_at_50": 0.68585, - "recall_at_100": 0.74055, - "recall_at_1000": 0.74055, - "precision_at_1": 0.42707, - "precision_at_3": 0.29662, - "precision_at_5": 0.2423, - "precision_at_10": 0.16573, - "precision_at_50": 0.04574, - "precision_at_100": 0.02435, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.42707, - "mrr_at_3": 0.51396, - "mrr_at_5": 0.53116, - "mrr_at_10": 0.54143, - "mrr_at_50": 0.54589, - "mrr_at_100": 0.54634, - "mrr_at_1000": 0.54634 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.56936, - "ndcg_at_3": 0.51885, - "ndcg_at_5": 0.52114, - "ndcg_at_10": 0.57855, - "ndcg_at_50": 0.64509, - "ndcg_at_100": 0.65945, - "ndcg_at_1000": 0.65945, - "map_at_1": 0.17354, - "map_at_3": 0.32595, - "map_at_5": 0.39864, - "map_at_10": 0.47083, - "map_at_50": 0.50342, - "map_at_100": 0.50575, - "map_at_1000": 0.50575, - "recall_at_1": 0.17354, - "recall_at_3": 0.37077, - "recall_at_5": 0.48874, - "recall_at_10": 0.65859, - "recall_at_50": 0.85372, - "recall_at_100": 0.91888, - "recall_at_1000": 0.91888, - "precision_at_1": 0.56936, - "precision_at_3": 0.44798, - "precision_at_5": 0.37168, - "precision_at_10": 0.2604, - "precision_at_50": 0.06676, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.56936, - "mrr_at_3": 0.64258, - "mrr_at_5": 0.65356, - "mrr_at_10": 0.66441, - "mrr_at_50": 0.66942, - "mrr_at_100": 0.66986, - "mrr_at_1000": 0.66986 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.51351, - "ndcg_at_3": 0.49792, - "ndcg_at_5": 0.49468, - "ndcg_at_10": 0.54859, - "ndcg_at_50": 0.63597, - "ndcg_at_100": 0.64658, - "ndcg_at_1000": 0.64658, - "map_at_1": 0.15017, - "map_at_3": 0.29061, - "map_at_5": 0.3594, - "map_at_10": 0.44035, - "map_at_50": 0.48488, - "map_at_100": 0.4872, - "map_at_1000": 0.4872, - "recall_at_1": 0.15017, - "recall_at_3": 0.34075, - "recall_at_5": 0.44864, - "recall_at_10": 0.61618, - "recall_at_50": 0.85842, - "recall_at_100": 0.9019, - "recall_at_1000": 0.9019, - "precision_at_1": 0.51351, - "precision_at_3": 0.44244, - "precision_at_5": 0.37477, - "precision_at_10": 0.27568, - "precision_at_50": 0.07646, - "precision_at_100": 0.03988, - "precision_at_1000": 0.00399, - "mrr_at_1": 0.51351, - "mrr_at_3": 0.60661, - "mrr_at_5": 0.62072, - "mrr_at_10": 0.63047, - "mrr_at_50": 0.63511, - "mrr_at_100": 0.63521, - "mrr_at_1000": 0.63521 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.60059, - "ndcg_at_3": 0.55679, - "ndcg_at_5": 0.56063, - "ndcg_at_10": 0.59613, - "ndcg_at_50": 0.66031, - "ndcg_at_100": 0.67061, - "ndcg_at_1000": 0.67061, - "map_at_1": 0.17779, - "map_at_3": 0.33829, - "map_at_5": 0.42299, - "map_at_10": 0.49329, - "map_at_50": 0.52816, - "map_at_100": 0.5301, - "map_at_1000": 0.5301, - "recall_at_1": 0.17779, - "recall_at_3": 0.37596, - "recall_at_5": 0.50629, - "recall_at_10": 0.65601, - "recall_at_50": 0.83156, - "recall_at_100": 0.87577, - "recall_at_1000": 0.87577, - "precision_at_1": 0.60059, - "precision_at_3": 0.48718, - "precision_at_5": 0.41893, - "precision_at_10": 0.28491, - "precision_at_50": 0.07331, - "precision_at_100": 0.03828, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.60059, - "mrr_at_3": 0.66075, - "mrr_at_5": 0.67244, - "mrr_at_10": 0.68339, - "mrr_at_50": 0.68656, - "mrr_at_100": 0.68688, - "mrr_at_1000": 0.68688 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.61062, - "ndcg_at_3": 0.5841, - "ndcg_at_5": 0.57712, - "ndcg_at_10": 0.62811, - "ndcg_at_50": 0.70079, - "ndcg_at_100": 0.71029, - "ndcg_at_1000": 0.71029, - "map_at_1": 0.20107, - "map_at_3": 0.39152, - "map_at_5": 0.45506, - "map_at_10": 0.52437, - "map_at_50": 0.55994, - "map_at_100": 0.56197, - "map_at_1000": 0.56197, - "recall_at_1": 0.20107, - "recall_at_3": 0.44289, - "recall_at_5": 0.54078, - "recall_at_10": 0.69226, - "recall_at_50": 0.90505, - "recall_at_100": 0.94429, - "recall_at_1000": 0.94429, - "precision_at_1": 0.61062, - "precision_at_3": 0.50737, - "precision_at_5": 0.39823, - "precision_at_10": 0.26903, - "precision_at_50": 0.07044, - "precision_at_100": 0.03673, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.61062, - "mrr_at_3": 0.69813, - "mrr_at_5": 0.70624, - "mrr_at_10": 0.71298, - "mrr_at_50": 0.71793, - "mrr_at_100": 0.71802, - "mrr_at_1000": 0.71802 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.6413, - "ndcg_at_3": 0.61638, - "ndcg_at_5": 0.61142, - "ndcg_at_10": 0.67092, - "ndcg_at_50": 0.73664, - "ndcg_at_100": 0.74591, - "ndcg_at_1000": 0.74591, - "map_at_1": 0.22928, - "map_at_3": 0.41117, - "map_at_5": 0.48714, - "map_at_10": 0.56767, - "map_at_50": 0.60288, - "map_at_100": 0.60488, - "map_at_1000": 0.60488, - "recall_at_1": 0.22928, - "recall_at_3": 0.45844, - "recall_at_5": 0.57509, - "recall_at_10": 0.74282, - "recall_at_50": 0.92088, - "recall_at_100": 0.95886, - "recall_at_1000": 0.95886, - "precision_at_1": 0.6413, - "precision_at_3": 0.51812, - "precision_at_5": 0.41902, - "precision_at_10": 0.29158, - "precision_at_50": 0.07489, - "precision_at_100": 0.03891, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.6413, - "mrr_at_3": 0.7269, - "mrr_at_5": 0.73764, - "mrr_at_10": 0.74399, - "mrr_at_50": 0.74652, - "mrr_at_100": 0.74664, - "mrr_at_1000": 0.74664 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.5119, - "ndcg_at_3": 0.47911, - "ndcg_at_5": 0.49183, - "ndcg_at_10": 0.53808, - "ndcg_at_50": 0.59728, - "ndcg_at_100": 0.6138, - "ndcg_at_1000": 0.6138, - "map_at_1": 0.2127, - "map_at_3": 0.34797, - "map_at_5": 0.40154, - "map_at_10": 0.44713, - "map_at_50": 0.47238, - "map_at_100": 0.47496, - "map_at_1000": 0.47496, - "recall_at_1": 0.2127, - "recall_at_3": 0.39764, - "recall_at_5": 0.49109, - "recall_at_10": 0.60932, - "recall_at_50": 0.7935, - "recall_at_100": 0.87225, - "recall_at_1000": 0.87225, - "precision_at_1": 0.5119, - "precision_at_3": 0.36905, - "precision_at_5": 0.29524, - "precision_at_10": 0.19673, - "precision_at_50": 0.05143, - "precision_at_100": 0.02777, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.5119, - "mrr_at_3": 0.59077, - "mrr_at_5": 0.60015, - "mrr_at_10": 0.60944, - "mrr_at_50": 0.61423, - "mrr_at_100": 0.61501, - "mrr_at_1000": 0.61501 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.58028, - "ndcg_at_3": 0.54338, - "ndcg_at_5": 0.56909, - "ndcg_at_10": 0.61986, - "ndcg_at_50": 0.6725, - "ndcg_at_100": 0.68183, - "ndcg_at_1000": 0.68183, - "map_at_1": 0.2798, - "map_at_3": 0.41924, - "map_at_5": 0.47461, - "map_at_10": 0.51724, - "map_at_50": 0.54014, - "map_at_100": 0.54152, - "map_at_1000": 0.54152, - "recall_at_1": 0.2798, - "recall_at_3": 0.48958, - "recall_at_5": 0.59735, - "recall_at_10": 0.71636, - "recall_at_50": 0.87986, - "recall_at_100": 0.92486, - "recall_at_1000": 0.92486, - "precision_at_1": 0.58028, - "precision_at_3": 0.38685, - "precision_at_5": 0.30254, - "precision_at_10": 0.19352, - "precision_at_50": 0.04862, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.58028, - "mrr_at_3": 0.67277, - "mrr_at_5": 0.68376, - "mrr_at_10": 0.69128, - "mrr_at_50": 0.69582, - "mrr_at_100": 0.69613, - "mrr_at_1000": 0.69613 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.53782, - "ndcg_at_3": 0.52395, - "ndcg_at_5": 0.55262, - "ndcg_at_10": 0.60571, - "ndcg_at_50": 0.65033, - "ndcg_at_100": 0.66072, - "ndcg_at_1000": 0.66072, - "map_at_1": 0.25859, - "map_at_3": 0.41181, - "map_at_5": 0.46257, - "map_at_10": 0.50689, - "map_at_50": 0.52634, - "map_at_100": 0.52792, - "map_at_1000": 0.52792, - "recall_at_1": 0.25859, - "recall_at_3": 0.47072, - "recall_at_5": 0.58575, - "recall_at_10": 0.71034, - "recall_at_50": 0.8489, - "recall_at_100": 0.89878, - "recall_at_1000": 0.89878, - "precision_at_1": 0.53782, - "precision_at_3": 0.38562, - "precision_at_5": 0.29804, - "precision_at_10": 0.19132, - "precision_at_50": 0.04689, - "precision_at_100": 0.02462, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.53782, - "mrr_at_3": 0.63352, - "mrr_at_5": 0.65089, - "mrr_at_10": 0.6571, - "mrr_at_50": 0.66058, - "mrr_at_100": 0.66089, - "mrr_at_1000": 0.66089 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.59409, - "ndcg_at_3": 0.55108, - "ndcg_at_5": 0.56283, - "ndcg_at_10": 0.60992, - "ndcg_at_50": 0.6555, - "ndcg_at_100": 0.669, - "ndcg_at_1000": 0.669, - "map_at_1": 0.29514, - "map_at_3": 0.43806, - "map_at_5": 0.48191, - "map_at_10": 0.51948, - "map_at_50": 0.53773, - "map_at_100": 0.53965, - "map_at_1000": 0.53965, - "recall_at_1": 0.29514, - "recall_at_3": 0.48925, - "recall_at_5": 0.57353, - "recall_at_10": 0.68406, - "recall_at_50": 0.83183, - "recall_at_100": 0.89852, - "recall_at_1000": 0.89852, - "precision_at_1": 0.59409, - "precision_at_3": 0.3862, - "precision_at_5": 0.28871, - "precision_at_10": 0.18253, - "precision_at_50": 0.04511, - "precision_at_100": 0.02406, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.59409, - "mrr_at_3": 0.6698, - "mrr_at_5": 0.68029, - "mrr_at_10": 0.68654, - "mrr_at_50": 0.69034, - "mrr_at_100": 0.69092, - "mrr_at_1000": 0.69092 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.52186, - "ndcg_at_3": 0.47424, - "ndcg_at_5": 0.49216, - "ndcg_at_10": 0.55024, - "ndcg_at_50": 0.61344, - "ndcg_at_100": 0.62653, - "ndcg_at_1000": 0.62653, - "map_at_1": 0.20846, - "map_at_3": 0.34117, - "map_at_5": 0.39481, - "map_at_10": 0.44781, - "map_at_50": 0.47391, - "map_at_100": 0.47584, - "map_at_1000": 0.47584, - "recall_at_1": 0.20846, - "recall_at_3": 0.39061, - "recall_at_5": 0.49685, - "recall_at_10": 0.63914, - "recall_at_50": 0.83864, - "recall_at_100": 0.90368, - "recall_at_1000": 0.90368, - "precision_at_1": 0.52186, - "precision_at_3": 0.37341, - "precision_at_5": 0.29945, - "precision_at_10": 0.20546, - "precision_at_50": 0.05399, - "precision_at_100": 0.0285, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.52186, - "mrr_at_3": 0.59745, - "mrr_at_5": 0.61261, - "mrr_at_10": 0.62082, - "mrr_at_50": 0.62653, - "mrr_at_100": 0.62708, - "mrr_at_1000": 0.62708 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.4973, - "ndcg_at_3": 0.48961, - "ndcg_at_5": 0.51246, - "ndcg_at_10": 0.58326, - "ndcg_at_50": 0.64164, - "ndcg_at_100": 0.65346, - "ndcg_at_1000": 0.65346, - "map_at_1": 0.2724, - "map_at_3": 0.40155, - "map_at_5": 0.43844, - "map_at_10": 0.48804, - "map_at_50": 0.51063, - "map_at_100": 0.51234, - "map_at_1000": 0.51234, - "recall_at_1": 0.2724, - "recall_at_3": 0.46366, - "recall_at_5": 0.54674, - "recall_at_10": 0.71665, - "recall_at_50": 0.91775, - "recall_at_100": 0.97739, - "recall_at_1000": 0.97739, - "precision_at_1": 0.4973, - "precision_at_3": 0.32973, - "precision_at_5": 0.24757, - "precision_at_10": 0.17081, - "precision_at_50": 0.04384, - "precision_at_100": 0.02319, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.4973, - "mrr_at_3": 0.58333, - "mrr_at_5": 0.59617, - "mrr_at_10": 0.60892, - "mrr_at_50": 0.61438, - "mrr_at_100": 0.61488, - "mrr_at_1000": 0.61488 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.3589, - "ndcg_at_3": 0.37643, - "ndcg_at_5": 0.41523, - "ndcg_at_10": 0.47452, - "ndcg_at_50": 0.5425, - "ndcg_at_100": 0.55175, - "ndcg_at_1000": 0.55175, - "map_at_1": 0.22007, - "map_at_3": 0.31125, - "map_at_5": 0.3487, - "map_at_10": 0.38485, - "map_at_50": 0.40754, - "map_at_100": 0.4087, - "map_at_1000": 0.4087, - "recall_at_1": 0.22007, - "recall_at_3": 0.38102, - "recall_at_5": 0.47992, - "recall_at_10": 0.62864, - "recall_at_50": 0.87914, - "recall_at_100": 0.92848, - "recall_at_1000": 0.92848, - "precision_at_1": 0.3589, - "precision_at_3": 0.23415, - "precision_at_5": 0.18773, - "precision_at_10": 0.1273, - "precision_at_50": 0.03479, - "precision_at_100": 0.01822, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.3589, - "mrr_at_3": 0.44376, - "mrr_at_5": 0.46462, - "mrr_at_10": 0.47804, - "mrr_at_50": 0.48837, - "mrr_at_100": 0.48879, - "mrr_at_1000": 0.48879 - }, - "gpt3": { - "ndcg_at_1": 0.35608, - "ndcg_at_3": 0.42152, - "ndcg_at_5": 0.45222, - "ndcg_at_10": 0.50787, - "ndcg_at_50": 0.55753, - "ndcg_at_100": 0.56762, - "ndcg_at_1000": 0.56762, - "map_at_1": 0.28042, - "map_at_3": 0.37727, - "map_at_5": 0.39848, - "map_at_10": 0.42669, - "map_at_50": 0.44019, - "map_at_100": 0.44128, - "map_at_1000": 0.44128, - "recall_at_1": 0.28042, - "recall_at_3": 0.47181, - "recall_at_5": 0.54006, - "recall_at_10": 0.69115, - "recall_at_50": 0.88922, - "recall_at_100": 0.94758, - "recall_at_1000": 0.94758, - "precision_at_1": 0.35608, - "precision_at_3": 0.21464, - "precision_at_5": 0.15134, - "precision_at_10": 0.10059, - "precision_at_50": 0.02611, - "precision_at_100": 0.01383, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.35608, - "mrr_at_3": 0.44906, - "mrr_at_5": 0.46405, - "mrr_at_10": 0.48124, - "mrr_at_50": 0.48969, - "mrr_at_100": 0.4903, - "mrr_at_1000": 0.4903 - }, - "llm-survey": { - "ndcg_at_1": 0.42857, - "ndcg_at_3": 0.39736, - "ndcg_at_5": 0.42153, - "ndcg_at_10": 0.46411, - "ndcg_at_50": 0.52934, - "ndcg_at_100": 0.5482, - "ndcg_at_1000": 0.5482, - "map_at_1": 0.20071, - "map_at_3": 0.31021, - "map_at_5": 0.34915, - "map_at_10": 0.38246, - "map_at_50": 0.40625, - "map_at_100": 0.40875, - "map_at_1000": 0.40875, - "recall_at_1": 0.20071, - "recall_at_3": 0.35562, - "recall_at_5": 0.44053, - "recall_at_10": 0.54494, - "recall_at_50": 0.76148, - "recall_at_100": 0.85711, - "recall_at_1000": 0.85711, - "precision_at_1": 0.42857, - "precision_at_3": 0.28478, - "precision_at_5": 0.22465, - "precision_at_10": 0.1479, - "precision_at_50": 0.04162, - "precision_at_100": 0.02283, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.42857, - "mrr_at_3": 0.49533, - "mrr_at_5": 0.51088, - "mrr_at_10": 0.5206, - "mrr_at_50": 0.5285, - "mrr_at_100": 0.52948, - "mrr_at_1000": 0.52948 - }, - "gemini": { - "ndcg_at_1": 0.36546, - "ndcg_at_3": 0.47265, - "ndcg_at_5": 0.49288, - "ndcg_at_10": 0.53042, - "ndcg_at_50": 0.57255, - "ndcg_at_100": 0.58159, - "ndcg_at_1000": 0.58159, - "map_at_1": 0.36546, - "map_at_3": 0.44712, - "map_at_5": 0.45857, - "map_at_10": 0.474, - "map_at_50": 0.48325, - "map_at_100": 0.48402, - "map_at_1000": 0.48402, - "recall_at_1": 0.36546, - "recall_at_3": 0.54618, - "recall_at_5": 0.59438, - "recall_at_10": 0.71084, - "recall_at_50": 0.8996, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.36546, - "precision_at_3": 0.18206, - "precision_at_5": 0.11888, - "precision_at_10": 0.07108, - "precision_at_50": 0.01799, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.36546, - "mrr_at_3": 0.44712, - "mrr_at_5": 0.45857, - "mrr_at_10": 0.474, - "mrr_at_50": 0.48325, - "mrr_at_100": 0.48402, - "mrr_at_1000": 0.48402 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.41366, - "ndcg_at_3": 0.37396, - "ndcg_at_5": 0.37419, - "ndcg_at_10": 0.38909, - "ndcg_at_50": 0.41845, - "ndcg_at_100": 0.42152, - "ndcg_at_1000": 0.42152, - "map_at_1": 0.17959, - "map_at_3": 0.26415, - "map_at_5": 0.29709, - "map_at_10": 0.32424, - "map_at_50": 0.33898, - "map_at_100": 0.33942, - "map_at_1000": 0.33942, - "recall_at_1": 0.17959, - "recall_at_3": 0.29641, - "recall_at_5": 0.35219, - "recall_at_10": 0.41364, - "recall_at_50": 0.49592, - "recall_at_100": 0.51166, - "recall_at_1000": 0.51166, - "precision_at_1": 0.41366, - "precision_at_3": 0.27577, - "precision_at_5": 0.21532, - "precision_at_10": 0.13876, - "precision_at_50": 0.03489, - "precision_at_100": 0.01777, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.4131, - "mrr_at_3": 0.46594, - "mrr_at_5": 0.4728, - "mrr_at_10": 0.47699, - "mrr_at_50": 0.47955, - "mrr_at_100": 0.47974, - "mrr_at_1000": 0.47974 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.57869, - "ndcg_at_3": 0.55677, - "ndcg_at_5": 0.56223, - "ndcg_at_10": 0.58748, - "ndcg_at_50": 0.63027, - "ndcg_at_100": 0.63318, - "ndcg_at_1000": 0.63318, - "map_at_1": 0.2619, - "map_at_3": 0.39857, - "map_at_5": 0.45443, - "map_at_10": 0.505, - "map_at_50": 0.53067, - "map_at_100": 0.53126, - "map_at_1000": 0.53126, - "recall_at_1": 0.2619, - "recall_at_3": 0.44217, - "recall_at_5": 0.53147, - "recall_at_10": 0.63498, - "recall_at_50": 0.74458, - "recall_at_100": 0.75702, - "recall_at_1000": 0.75702, - "precision_at_1": 0.57869, - "precision_at_3": 0.41409, - "precision_at_5": 0.33432, - "precision_at_10": 0.22429, - "precision_at_50": 0.05648, - "precision_at_100": 0.02869, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.57869, - "mrr_at_3": 0.6486, - "mrr_at_5": 0.65891, - "mrr_at_10": 0.66511, - "mrr_at_50": 0.66717, - "mrr_at_100": 0.66724, - "mrr_at_1000": 0.66724 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.69141, - "ndcg_at_3": 0.64057, - "ndcg_at_5": 0.62128, - "ndcg_at_10": 0.6425, - "ndcg_at_50": 0.71253, - "ndcg_at_100": 0.7168, - "ndcg_at_1000": 0.7168, - "map_at_1": 0.19699, - "map_at_3": 0.36567, - "map_at_5": 0.44735, - "map_at_10": 0.533, - "map_at_50": 0.57948, - "map_at_100": 0.5805, - "map_at_1000": 0.5805, - "recall_at_1": 0.19699, - "recall_at_3": 0.39966, - "recall_at_5": 0.51567, - "recall_at_10": 0.66942, - "recall_at_50": 0.83878, - "recall_at_100": 0.85534, - "recall_at_1000": 0.85534, - "precision_at_1": 0.69141, - "precision_at_3": 0.5599, - "precision_at_5": 0.46922, - "precision_at_10": 0.32986, - "precision_at_50": 0.08642, - "precision_at_100": 0.04396, - "precision_at_1000": 0.0044, - "mrr_at_1": 0.69141, - "mrr_at_3": 0.75648, - "mrr_at_5": 0.7665, - "mrr_at_10": 0.77117, - "mrr_at_50": 0.77306, - "mrr_at_100": 0.77315, - "mrr_at_1000": 0.77315 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.60281, - "ndcg_at_3": 0.55878, - "ndcg_at_5": 0.57296, - "ndcg_at_10": 0.61266, - "ndcg_at_50": 0.64783, - "ndcg_at_100": 0.65043, - "ndcg_at_1000": 0.65043, - "map_at_1": 0.27117, - "map_at_3": 0.42202, - "map_at_5": 0.47325, - "map_at_10": 0.51431, - "map_at_50": 0.53173, - "map_at_100": 0.53217, - "map_at_1000": 0.53217, - "recall_at_1": 0.27117, - "recall_at_3": 0.48246, - "recall_at_5": 0.57761, - "recall_at_10": 0.68693, - "recall_at_50": 0.79138, - "recall_at_100": 0.80317, - "recall_at_1000": 0.80317, - "precision_at_1": 0.60281, - "precision_at_3": 0.41437, - "precision_at_5": 0.31728, - "precision_at_10": 0.19953, - "precision_at_50": 0.04691, - "precision_at_100": 0.0238, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.6034, - "mrr_at_3": 0.68463, - "mrr_at_5": 0.69524, - "mrr_at_10": 0.70088, - "mrr_at_50": 0.70305, - "mrr_at_100": 0.70316, - "mrr_at_1000": 0.70316 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.51167, - "ndcg_at_3": 0.5359, - "ndcg_at_5": 0.55101, - "ndcg_at_10": 0.57362, - "ndcg_at_50": 0.59292, - "ndcg_at_100": 0.59456, - "ndcg_at_1000": 0.59456, - "map_at_1": 0.31904, - "map_at_3": 0.45489, - "map_at_5": 0.49026, - "map_at_10": 0.51656, - "map_at_50": 0.52653, - "map_at_100": 0.52673, - "map_at_1000": 0.52673, - "recall_at_1": 0.31904, - "recall_at_3": 0.51514, - "recall_at_5": 0.58485, - "recall_at_10": 0.65037, - "recall_at_50": 0.70904, - "recall_at_100": 0.71811, - "recall_at_1000": 0.71811, - "precision_at_1": 0.51167, - "precision_at_3": 0.32934, - "precision_at_5": 0.24189, - "precision_at_10": 0.14707, - "precision_at_50": 0.03334, - "precision_at_100": 0.0168, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.51167, - "mrr_at_3": 0.5796, - "mrr_at_5": 0.58689, - "mrr_at_10": 0.59065, - "mrr_at_50": 0.59256, - "mrr_at_100": 0.59269, - "mrr_at_1000": 0.59269 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.71511, - "ndcg_at_3": 0.6631, - "ndcg_at_5": 0.6728, - "ndcg_at_10": 0.69336, - "ndcg_at_50": 0.7083, - "ndcg_at_100": 0.70944, - "ndcg_at_1000": 0.70944, - "map_at_1": 0.42081, - "map_at_3": 0.56418, - "map_at_5": 0.60214, - "map_at_10": 0.62522, - "map_at_50": 0.63261, - "map_at_100": 0.63277, - "map_at_1000": 0.63277, - "recall_at_1": 0.42081, - "recall_at_3": 0.6066, - "recall_at_5": 0.67193, - "recall_at_10": 0.7293, - "recall_at_50": 0.7735, - "recall_at_100": 0.779, - "recall_at_1000": 0.779, - "precision_at_1": 0.71511, - "precision_at_3": 0.4144, - "precision_at_5": 0.29635, - "precision_at_10": 0.17035, - "precision_at_50": 0.03714, - "precision_at_100": 0.0187, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.71511, - "mrr_at_3": 0.76694, - "mrr_at_5": 0.77284, - "mrr_at_10": 0.77514, - "mrr_at_50": 0.77608, - "mrr_at_100": 0.77613, - "mrr_at_1000": 0.77613 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.5182, - "ndcg_at_3": 0.47128, - "ndcg_at_5": 0.48448, - "ndcg_at_10": 0.51985, - "ndcg_at_50": 0.55775, - "ndcg_at_100": 0.56112, - "ndcg_at_1000": 0.56112, - "map_at_1": 0.21962, - "map_at_3": 0.33546, - "map_at_5": 0.38423, - "map_at_10": 0.42246, - "map_at_50": 0.44066, - "map_at_100": 0.44114, - "map_at_1000": 0.44114, - "recall_at_1": 0.21962, - "recall_at_3": 0.38804, - "recall_at_5": 0.48006, - "recall_at_10": 0.58596, - "recall_at_50": 0.69649, - "recall_at_100": 0.71345, - "recall_at_1000": 0.71345, - "precision_at_1": 0.5182, - "precision_at_3": 0.35413, - "precision_at_5": 0.28215, - "precision_at_10": 0.18122, - "precision_at_50": 0.04432, - "precision_at_100": 0.02252, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.5182, - "mrr_at_3": 0.59773, - "mrr_at_5": 0.61049, - "mrr_at_10": 0.6172, - "mrr_at_50": 0.61952, - "mrr_at_100": 0.61971, - "mrr_at_1000": 0.61971 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.59227, - "ndcg_at_3": 0.56192, - "ndcg_at_5": 0.56146, - "ndcg_at_10": 0.58796, - "ndcg_at_50": 0.62357, - "ndcg_at_100": 0.62582, - "ndcg_at_1000": 0.62582, - "map_at_1": 0.28948, - "map_at_3": 0.41297, - "map_at_5": 0.45697, - "map_at_10": 0.496, - "map_at_50": 0.51579, - "map_at_100": 0.51621, - "map_at_1000": 0.51621, - "recall_at_1": 0.28948, - "recall_at_3": 0.46606, - "recall_at_5": 0.54561, - "recall_at_10": 0.63768, - "recall_at_50": 0.73103, - "recall_at_100": 0.74055, - "recall_at_1000": 0.74055, - "precision_at_1": 0.59227, - "precision_at_3": 0.3966, - "precision_at_5": 0.30404, - "precision_at_10": 0.19672, - "precision_at_50": 0.04805, - "precision_at_100": 0.02435, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.59227, - "mrr_at_3": 0.67165, - "mrr_at_5": 0.68169, - "mrr_at_10": 0.68721, - "mrr_at_50": 0.68894, - "mrr_at_100": 0.68901, - "mrr_at_1000": 0.68901 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.69942, - "ndcg_at_3": 0.64918, - "ndcg_at_5": 0.65626, - "ndcg_at_10": 0.6989, - "ndcg_at_50": 0.74813, - "ndcg_at_100": 0.75149, - "ndcg_at_1000": 0.75149, - "map_at_1": 0.22882, - "map_at_3": 0.43484, - "map_at_5": 0.52097, - "map_at_10": 0.58866, - "map_at_50": 0.61807, - "map_at_100": 0.61871, - "map_at_1000": 0.61871, - "recall_at_1": 0.22882, - "recall_at_3": 0.49095, - "recall_at_5": 0.63492, - "recall_at_10": 0.76917, - "recall_at_50": 0.90368, - "recall_at_100": 0.91888, - "recall_at_1000": 0.91888, - "precision_at_1": 0.69942, - "precision_at_3": 0.55299, - "precision_at_5": 0.4474, - "precision_at_10": 0.2922, - "precision_at_50": 0.06983, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.69942, - "mrr_at_3": 0.78035, - "mrr_at_5": 0.79306, - "mrr_at_10": 0.79583, - "mrr_at_50": 0.79717, - "mrr_at_100": 0.7973, - "mrr_at_1000": 0.7973 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.7027, - "ndcg_at_3": 0.64092, - "ndcg_at_5": 0.64344, - "ndcg_at_10": 0.68851, - "ndcg_at_50": 0.7484, - "ndcg_at_100": 0.75065, - "ndcg_at_1000": 0.75065, - "map_at_1": 0.21809, - "map_at_3": 0.403, - "map_at_5": 0.49786, - "map_at_10": 0.58238, - "map_at_50": 0.6223, - "map_at_100": 0.6227, - "map_at_1000": 0.6227, - "recall_at_1": 0.21809, - "recall_at_3": 0.44125, - "recall_at_5": 0.5824, - "recall_at_10": 0.74082, - "recall_at_50": 0.89089, - "recall_at_100": 0.9019, - "recall_at_1000": 0.9019, - "precision_at_1": 0.7027, - "precision_at_3": 0.55956, - "precision_at_5": 0.47087, - "precision_at_10": 0.32012, - "precision_at_50": 0.07922, - "precision_at_100": 0.03988, - "precision_at_1000": 0.00399, - "mrr_at_1": 0.6997, - "mrr_at_3": 0.77427, - "mrr_at_5": 0.78298, - "mrr_at_10": 0.78743, - "mrr_at_50": 0.78839, - "mrr_at_100": 0.78847, - "mrr_at_1000": 0.78847 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.72189, - "ndcg_at_3": 0.66583, - "ndcg_at_5": 0.65083, - "ndcg_at_10": 0.69185, - "ndcg_at_50": 0.74146, - "ndcg_at_100": 0.74334, - "ndcg_at_1000": 0.74334, - "map_at_1": 0.22667, - "map_at_3": 0.42227, - "map_at_5": 0.50708, - "map_at_10": 0.59015, - "map_at_50": 0.62218, - "map_at_100": 0.62265, - "map_at_1000": 0.62265, - "recall_at_1": 0.22667, - "recall_at_3": 0.45734, - "recall_at_5": 0.58067, - "recall_at_10": 0.7399, - "recall_at_50": 0.86835, - "recall_at_100": 0.87577, - "recall_at_1000": 0.87577, - "precision_at_1": 0.72189, - "precision_at_3": 0.57298, - "precision_at_5": 0.46391, - "precision_at_10": 0.31746, - "precision_at_50": 0.07592, - "precision_at_100": 0.03828, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.72189, - "mrr_at_3": 0.77811, - "mrr_at_5": 0.78447, - "mrr_at_10": 0.79072, - "mrr_at_50": 0.79327, - "mrr_at_100": 0.79331, - "mrr_at_1000": 0.79331 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.75516, - "ndcg_at_3": 0.68931, - "ndcg_at_5": 0.69733, - "ndcg_at_10": 0.74881, - "ndcg_at_50": 0.79566, - "ndcg_at_100": 0.79741, - "ndcg_at_1000": 0.79741, - "map_at_1": 0.26212, - "map_at_3": 0.4859, - "map_at_5": 0.57213, - "map_at_10": 0.64824, - "map_at_50": 0.67717, - "map_at_100": 0.67757, - "map_at_1000": 0.67757, - "recall_at_1": 0.26212, - "recall_at_3": 0.52211, - "recall_at_5": 0.65892, - "recall_at_10": 0.81056, - "recall_at_50": 0.93712, - "recall_at_100": 0.94429, - "recall_at_1000": 0.94429, - "precision_at_1": 0.75516, - "precision_at_3": 0.58014, - "precision_at_5": 0.46785, - "precision_at_10": 0.30855, - "precision_at_50": 0.07292, - "precision_at_100": 0.03673, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.75516, - "mrr_at_3": 0.81809, - "mrr_at_5": 0.82724, - "mrr_at_10": 0.8303, - "mrr_at_50": 0.83183, - "mrr_at_100": 0.83183, - "mrr_at_1000": 0.83183 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.80435, - "ndcg_at_3": 0.74619, - "ndcg_at_5": 0.73068, - "ndcg_at_10": 0.77923, - "ndcg_at_50": 0.83223, - "ndcg_at_100": 0.83339, - "ndcg_at_1000": 0.83339, - "map_at_1": 0.29646, - "map_at_3": 0.51972, - "map_at_5": 0.60187, - "map_at_10": 0.68257, - "map_at_50": 0.71825, - "map_at_100": 0.71854, - "map_at_1000": 0.71854, - "recall_at_1": 0.29646, - "recall_at_3": 0.55652, - "recall_at_5": 0.67311, - "recall_at_10": 0.82512, - "recall_at_50": 0.95465, - "recall_at_100": 0.95886, - "recall_at_1000": 0.95886, - "precision_at_1": 0.80435, - "precision_at_3": 0.61141, - "precision_at_5": 0.47989, - "precision_at_10": 0.31821, - "precision_at_50": 0.07739, - "precision_at_100": 0.03891, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.80435, - "mrr_at_3": 0.86141, - "mrr_at_5": 0.86644, - "mrr_at_10": 0.86955, - "mrr_at_50": 0.87044, - "mrr_at_100": 0.87044, - "mrr_at_1000": 0.87044 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66667, - "ndcg_at_3": 0.61408, - "ndcg_at_5": 0.62717, - "ndcg_at_10": 0.66112, - "ndcg_at_50": 0.70712, - "ndcg_at_100": 0.71151, - "ndcg_at_1000": 0.71151, - "map_at_1": 0.29271, - "map_at_3": 0.46628, - "map_at_5": 0.53014, - "map_at_10": 0.57141, - "map_at_50": 0.59486, - "map_at_100": 0.59557, - "map_at_1000": 0.59557, - "recall_at_1": 0.29271, - "recall_at_3": 0.5114, - "recall_at_5": 0.61931, - "recall_at_10": 0.71711, - "recall_at_50": 0.85037, - "recall_at_100": 0.87225, - "recall_at_1000": 0.87225, - "precision_at_1": 0.66667, - "precision_at_3": 0.45437, - "precision_at_5": 0.35893, - "precision_at_10": 0.22173, - "precision_at_50": 0.05458, - "precision_at_100": 0.02777, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.66667, - "mrr_at_3": 0.73611, - "mrr_at_5": 0.74578, - "mrr_at_10": 0.74991, - "mrr_at_50": 0.75209, - "mrr_at_100": 0.75234, - "mrr_at_1000": 0.75234 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.69014, - "ndcg_at_3": 0.64284, - "ndcg_at_5": 0.66003, - "ndcg_at_10": 0.72002, - "ndcg_at_50": 0.75368, - "ndcg_at_100": 0.75467, - "ndcg_at_1000": 0.75467, - "map_at_1": 0.32903, - "map_at_3": 0.51018, - "map_at_5": 0.55979, - "map_at_10": 0.61176, - "map_at_50": 0.62999, - "map_at_100": 0.63012, - "map_at_1000": 0.63012, - "recall_at_1": 0.32903, - "recall_at_3": 0.58283, - "recall_at_5": 0.68829, - "recall_at_10": 0.82412, - "recall_at_50": 0.9197, - "recall_at_100": 0.92486, - "recall_at_1000": 0.92486, - "precision_at_1": 0.69014, - "precision_at_3": 0.45915, - "precision_at_5": 0.33521, - "precision_at_10": 0.21831, - "precision_at_50": 0.05054, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.68732, - "mrr_at_3": 0.77793, - "mrr_at_5": 0.78751, - "mrr_at_10": 0.79211, - "mrr_at_50": 0.79332, - "mrr_at_100": 0.79335, - "mrr_at_1000": 0.79335 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.65546, - "ndcg_at_3": 0.61923, - "ndcg_at_5": 0.62756, - "ndcg_at_10": 0.67081, - "ndcg_at_50": 0.72141, - "ndcg_at_100": 0.72281, - "ndcg_at_1000": 0.72281, - "map_at_1": 0.32197, - "map_at_3": 0.49742, - "map_at_5": 0.53881, - "map_at_10": 0.57701, - "map_at_50": 0.60049, - "map_at_100": 0.60072, - "map_at_1000": 0.60072, - "recall_at_1": 0.32197, - "recall_at_3": 0.56568, - "recall_at_5": 0.64319, - "recall_at_10": 0.74503, - "recall_at_50": 0.89157, - "recall_at_100": 0.89878, - "recall_at_1000": 0.89878, - "precision_at_1": 0.65546, - "precision_at_3": 0.44164, - "precision_at_5": 0.31541, - "precision_at_10": 0.19412, - "precision_at_50": 0.04896, - "precision_at_100": 0.02462, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.65546, - "mrr_at_3": 0.7437, - "mrr_at_5": 0.74846, - "mrr_at_10": 0.75287, - "mrr_at_50": 0.75633, - "mrr_at_100": 0.75642, - "mrr_at_1000": 0.75642 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.69892, - "ndcg_at_3": 0.65056, - "ndcg_at_5": 0.66843, - "ndcg_at_10": 0.71308, - "ndcg_at_50": 0.74854, - "ndcg_at_100": 0.75173, - "ndcg_at_1000": 0.75173, - "map_at_1": 0.37699, - "map_at_3": 0.53881, - "map_at_5": 0.58478, - "map_at_10": 0.62164, - "map_at_50": 0.64015, - "map_at_100": 0.64067, - "map_at_1000": 0.64067, - "recall_at_1": 0.37699, - "recall_at_3": 0.58936, - "recall_at_5": 0.68215, - "recall_at_10": 0.78354, - "recall_at_50": 0.88369, - "recall_at_100": 0.89852, - "recall_at_1000": 0.89852, - "precision_at_1": 0.69892, - "precision_at_3": 0.43638, - "precision_at_5": 0.32688, - "precision_at_10": 0.19973, - "precision_at_50": 0.04737, - "precision_at_100": 0.02406, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.69892, - "mrr_at_3": 0.77151, - "mrr_at_5": 0.78333, - "mrr_at_10": 0.78765, - "mrr_at_50": 0.7892, - "mrr_at_100": 0.78928, - "mrr_at_1000": 0.78928 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.5929, - "ndcg_at_3": 0.56042, - "ndcg_at_5": 0.56998, - "ndcg_at_10": 0.62423, - "ndcg_at_50": 0.68167, - "ndcg_at_100": 0.68808, - "ndcg_at_1000": 0.68808, - "map_at_1": 0.25642, - "map_at_3": 0.41341, - "map_at_5": 0.46638, - "map_at_10": 0.52003, - "map_at_50": 0.54811, - "map_at_100": 0.54913, - "map_at_1000": 0.54913, - "recall_at_1": 0.25642, - "recall_at_3": 0.47827, - "recall_at_5": 0.56747, - "recall_at_10": 0.70022, - "recall_at_50": 0.8726, - "recall_at_100": 0.90368, - "recall_at_1000": 0.90368, - "precision_at_1": 0.5929, - "precision_at_3": 0.42714, - "precision_at_5": 0.33115, - "precision_at_10": 0.21967, - "precision_at_50": 0.05557, - "precision_at_100": 0.0285, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.5929, - "mrr_at_3": 0.699, - "mrr_at_5": 0.7046, - "mrr_at_10": 0.70964, - "mrr_at_50": 0.71279, - "mrr_at_100": 0.71306, - "mrr_at_1000": 0.71306 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.6, - "ndcg_at_3": 0.60894, - "ndcg_at_5": 0.64493, - "ndcg_at_10": 0.69921, - "ndcg_at_50": 0.74169, - "ndcg_at_100": 0.74541, - "ndcg_at_1000": 0.74541, - "map_at_1": 0.34654, - "map_at_3": 0.51156, - "map_at_5": 0.5639, - "map_at_10": 0.608, - "map_at_50": 0.62763, - "map_at_100": 0.62823, - "map_at_1000": 0.62823, - "recall_at_1": 0.34654, - "recall_at_3": 0.59174, - "recall_at_5": 0.69869, - "recall_at_10": 0.82362, - "recall_at_50": 0.95955, - "recall_at_100": 0.97739, - "recall_at_1000": 0.97739, - "precision_at_1": 0.6, - "precision_at_3": 0.4009, - "precision_at_5": 0.30595, - "precision_at_10": 0.19243, - "precision_at_50": 0.04557, - "precision_at_100": 0.02319, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.6, - "mrr_at_3": 0.7009, - "mrr_at_5": 0.71266, - "mrr_at_10": 0.71831, - "mrr_at_50": 0.72187, - "mrr_at_100": 0.72205, - "mrr_at_1000": 0.72205 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.52147, - "ndcg_at_3": 0.55342, - "ndcg_at_5": 0.59611, - "ndcg_at_10": 0.64913, - "ndcg_at_50": 0.68428, - "ndcg_at_100": 0.6867, - "ndcg_at_1000": 0.6867, - "map_at_1": 0.35448, - "map_at_3": 0.4776, - "map_at_5": 0.52142, - "map_at_10": 0.559, - "map_at_50": 0.57315, - "map_at_100": 0.57344, - "map_at_1000": 0.57344, - "recall_at_1": 0.35448, - "recall_at_3": 0.5598, - "recall_at_5": 0.66855, - "recall_at_10": 0.7956, - "recall_at_50": 0.91518, - "recall_at_100": 0.92848, - "recall_at_1000": 0.92848, - "precision_at_1": 0.52147, - "precision_at_3": 0.32413, - "precision_at_5": 0.24601, - "precision_at_10": 0.15583, - "precision_at_50": 0.03601, - "precision_at_100": 0.01822, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.52147, - "mrr_at_3": 0.63037, - "mrr_at_5": 0.64755, - "mrr_at_10": 0.65537, - "mrr_at_50": 0.65949, - "mrr_at_100": 0.65958, - "mrr_at_1000": 0.65958 - }, - "gpt3": { - "ndcg_at_1": 0.40653, - "ndcg_at_3": 0.51466, - "ndcg_at_5": 0.55591, - "ndcg_at_10": 0.59317, - "ndcg_at_50": 0.62931, - "ndcg_at_100": 0.63352, - "ndcg_at_1000": 0.63352, - "map_at_1": 0.3185, - "map_at_3": 0.45965, - "map_at_5": 0.48928, - "map_at_10": 0.5097, - "map_at_50": 0.51959, - "map_at_100": 0.52007, - "map_at_1000": 0.52007, - "recall_at_1": 0.3185, - "recall_at_3": 0.58952, - "recall_at_5": 0.67953, - "recall_at_10": 0.77695, - "recall_at_50": 0.92384, - "recall_at_100": 0.94758, - "recall_at_1000": 0.94758, - "precision_at_1": 0.40653, - "precision_at_3": 0.26706, - "precision_at_5": 0.19169, - "precision_at_10": 0.11365, - "precision_at_50": 0.027, - "precision_at_100": 0.01383, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.40653, - "mrr_at_3": 0.5361, - "mrr_at_5": 0.55361, - "mrr_at_10": 0.56291, - "mrr_at_50": 0.56847, - "mrr_at_100": 0.56873, - "mrr_at_1000": 0.56873 - }, - "llm-survey": { - "ndcg_at_1": 0.54062, - "ndcg_at_3": 0.52411, - "ndcg_at_5": 0.53803, - "ndcg_at_10": 0.58932, - "ndcg_at_50": 0.63644, - "ndcg_at_100": 0.64109, - "ndcg_at_1000": 0.64109, - "map_at_1": 0.25797, - "map_at_3": 0.41751, - "map_at_5": 0.45668, - "map_at_10": 0.49758, - "map_at_50": 0.51957, - "map_at_100": 0.52012, - "map_at_1000": 0.52012, - "recall_at_1": 0.25797, - "recall_at_3": 0.47373, - "recall_at_5": 0.55602, - "recall_at_10": 0.68821, - "recall_at_50": 0.83109, - "recall_at_100": 0.85711, - "recall_at_1000": 0.85711, - "precision_at_1": 0.54062, - "precision_at_3": 0.38189, - "precision_at_5": 0.28011, - "precision_at_10": 0.18067, - "precision_at_50": 0.04487, - "precision_at_100": 0.02283, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.54062, - "mrr_at_3": 0.61905, - "mrr_at_5": 0.63263, - "mrr_at_10": 0.64211, - "mrr_at_50": 0.64626, - "mrr_at_100": 0.64659, - "mrr_at_1000": 0.64659 - }, - "gemini": { - "ndcg_at_1": 0.40964, - "ndcg_at_3": 0.59126, - "ndcg_at_5": 0.61788, - "ndcg_at_10": 0.63623, - "ndcg_at_50": 0.66068, - "ndcg_at_100": 0.66331, - "ndcg_at_1000": 0.66331, - "map_at_1": 0.40964, - "map_at_3": 0.54953, - "map_at_5": 0.56439, - "map_at_10": 0.57205, - "map_at_50": 0.57754, - "map_at_100": 0.57777, - "map_at_1000": 0.57777, - "recall_at_1": 0.40964, - "recall_at_3": 0.71084, - "recall_at_5": 0.7751, - "recall_at_10": 0.83133, - "recall_at_50": 0.93976, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.40964, - "precision_at_3": 0.23695, - "precision_at_5": 0.15502, - "precision_at_10": 0.08313, - "precision_at_50": 0.0188, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.40964, - "mrr_at_3": 0.54953, - "mrr_at_5": 0.56419, - "mrr_at_10": 0.57185, - "mrr_at_50": 0.57734, - "mrr_at_100": 0.57757, - "mrr_at_1000": 0.57757 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.3548, - "ndcg_at_3": 0.3208, - "ndcg_at_5": 0.32456, - "ndcg_at_10": 0.3479, - "ndcg_at_50": 0.38271, - "ndcg_at_100": 0.38663, - "ndcg_at_1000": 0.38663, - "map_at_1": 0.14092, - "map_at_3": 0.21518, - "map_at_5": 0.24605, - "map_at_10": 0.27671, - "map_at_50": 0.29358, - "map_at_100": 0.29414, - "map_at_1000": 0.29414, - "recall_at_1": 0.14092, - "recall_at_3": 0.25037, - "recall_at_5": 0.31138, - "recall_at_10": 0.39264, - "recall_at_50": 0.49238, - "recall_at_100": 0.51166, - "recall_at_1000": 0.51166, - "precision_at_1": 0.3548, - "precision_at_3": 0.24375, - "precision_at_5": 0.195, - "precision_at_10": 0.13254, - "precision_at_50": 0.03464, - "precision_at_100": 0.01777, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.35536, - "mrr_at_3": 0.41033, - "mrr_at_5": 0.42096, - "mrr_at_10": 0.42767, - "mrr_at_50": 0.43097, - "mrr_at_100": 0.43124, - "mrr_at_1000": 0.43124 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.53532, - "ndcg_at_3": 0.52167, - "ndcg_at_5": 0.5297, - "ndcg_at_10": 0.55861, - "ndcg_at_50": 0.60481, - "ndcg_at_100": 0.60811, - "ndcg_at_1000": 0.60811, - "map_at_1": 0.22494, - "map_at_3": 0.35756, - "map_at_5": 0.41324, - "map_at_10": 0.46619, - "map_at_50": 0.49413, - "map_at_100": 0.49473, - "map_at_1000": 0.49473, - "recall_at_1": 0.22494, - "recall_at_3": 0.41022, - "recall_at_5": 0.50547, - "recall_at_10": 0.62135, - "recall_at_50": 0.74223, - "recall_at_100": 0.75702, - "recall_at_1000": 0.75702, - "precision_at_1": 0.53532, - "precision_at_3": 0.39798, - "precision_at_5": 0.32664, - "precision_at_10": 0.22224, - "precision_at_50": 0.05648, - "precision_at_100": 0.02869, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.5347, - "mrr_at_3": 0.61958, - "mrr_at_5": 0.63237, - "mrr_at_10": 0.63914, - "mrr_at_50": 0.64103, - "mrr_at_100": 0.64115, - "mrr_at_1000": 0.64115 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.60073, - "ndcg_at_3": 0.5611, - "ndcg_at_5": 0.55196, - "ndcg_at_10": 0.58411, - "ndcg_at_50": 0.66529, - "ndcg_at_100": 0.67068, - "ndcg_at_1000": 0.67068, - "map_at_1": 0.15874, - "map_at_3": 0.30131, - "map_at_5": 0.37619, - "map_at_10": 0.46255, - "map_at_50": 0.51508, - "map_at_100": 0.51626, - "map_at_1000": 0.51626, - "recall_at_1": 0.15874, - "recall_at_3": 0.34426, - "recall_at_5": 0.46187, - "recall_at_10": 0.63221, - "recall_at_50": 0.83279, - "recall_at_100": 0.85534, - "recall_at_1000": 0.85534, - "precision_at_1": 0.60073, - "precision_at_3": 0.49823, - "precision_at_5": 0.43032, - "precision_at_10": 0.31584, - "precision_at_50": 0.08621, - "precision_at_100": 0.04396, - "precision_at_1000": 0.0044, - "mrr_at_1": 0.60057, - "mrr_at_3": 0.68824, - "mrr_at_5": 0.70082, - "mrr_at_10": 0.70769, - "mrr_at_50": 0.70988, - "mrr_at_100": 0.71001, - "mrr_at_1000": 0.71001 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.53368, - "ndcg_at_3": 0.49209, - "ndcg_at_5": 0.50595, - "ndcg_at_10": 0.54642, - "ndcg_at_50": 0.59227, - "ndcg_at_100": 0.59923, - "ndcg_at_1000": 0.59923, - "map_at_1": 0.22326, - "map_at_3": 0.35816, - "map_at_5": 0.40384, - "map_at_10": 0.44371, - "map_at_50": 0.46314, - "map_at_100": 0.46426, - "map_at_1000": 0.46426, - "recall_at_1": 0.22326, - "recall_at_3": 0.41902, - "recall_at_5": 0.51263, - "recall_at_10": 0.62351, - "recall_at_50": 0.76987, - "recall_at_100": 0.80317, - "recall_at_1000": 0.80317, - "precision_at_1": 0.53368, - "precision_at_3": 0.37219, - "precision_at_5": 0.28822, - "precision_at_10": 0.18518, - "precision_at_50": 0.04591, - "precision_at_100": 0.0238, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.53427, - "mrr_at_3": 0.62371, - "mrr_at_5": 0.6373, - "mrr_at_10": 0.64268, - "mrr_at_50": 0.64644, - "mrr_at_100": 0.64666, - "mrr_at_1000": 0.64666 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.46877, - "ndcg_at_3": 0.48494, - "ndcg_at_5": 0.5037, - "ndcg_at_10": 0.53112, - "ndcg_at_50": 0.55664, - "ndcg_at_100": 0.55904, - "ndcg_at_1000": 0.55904, - "map_at_1": 0.2839, - "map_at_3": 0.40291, - "map_at_5": 0.44057, - "map_at_10": 0.4695, - "map_at_50": 0.48107, - "map_at_100": 0.48134, - "map_at_1000": 0.48134, - "recall_at_1": 0.2839, - "recall_at_3": 0.45908, - "recall_at_5": 0.53742, - "recall_at_10": 0.61838, - "recall_at_50": 0.70471, - "recall_at_100": 0.71811, - "recall_at_1000": 0.71811, - "precision_at_1": 0.46877, - "precision_at_3": 0.30536, - "precision_at_5": 0.23054, - "precision_at_10": 0.14297, - "precision_at_50": 0.0332, - "precision_at_100": 0.0168, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.46877, - "mrr_at_3": 0.53218, - "mrr_at_5": 0.54177, - "mrr_at_10": 0.54765, - "mrr_at_50": 0.55015, - "mrr_at_100": 0.55034, - "mrr_at_1000": 0.55034 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.63289, - "ndcg_at_3": 0.59771, - "ndcg_at_5": 0.61628, - "ndcg_at_10": 0.64515, - "ndcg_at_50": 0.66527, - "ndcg_at_100": 0.66647, - "ndcg_at_1000": 0.66647, - "map_at_1": 0.36524, - "map_at_3": 0.49429, - "map_at_5": 0.53455, - "map_at_10": 0.56242, - "map_at_50": 0.57237, - "map_at_100": 0.57254, - "map_at_1000": 0.57254, - "recall_at_1": 0.36524, - "recall_at_3": 0.55235, - "recall_at_5": 0.63566, - "recall_at_10": 0.71186, - "recall_at_50": 0.77291, - "recall_at_100": 0.779, - "recall_at_1000": 0.779, - "precision_at_1": 0.63289, - "precision_at_3": 0.3785, - "precision_at_5": 0.27898, - "precision_at_10": 0.16647, - "precision_at_50": 0.03715, - "precision_at_100": 0.0187, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.63289, - "mrr_at_3": 0.70662, - "mrr_at_5": 0.71713, - "mrr_at_10": 0.72084, - "mrr_at_50": 0.72203, - "mrr_at_100": 0.72208, - "mrr_at_1000": 0.72208 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.50722, - "ndcg_at_3": 0.45553, - "ndcg_at_5": 0.46637, - "ndcg_at_10": 0.50555, - "ndcg_at_50": 0.54307, - "ndcg_at_100": 0.54768, - "ndcg_at_1000": 0.54768, - "map_at_1": 0.20385, - "map_at_3": 0.317, - "map_at_5": 0.36366, - "map_at_10": 0.40454, - "map_at_50": 0.42186, - "map_at_100": 0.42254, - "map_at_1000": 0.42254, - "recall_at_1": 0.20385, - "recall_at_3": 0.368, - "recall_at_5": 0.46099, - "recall_at_10": 0.57466, - "recall_at_50": 0.69056, - "recall_at_100": 0.71345, - "recall_at_1000": 0.71345, - "precision_at_1": 0.50722, - "precision_at_3": 0.34912, - "precision_at_5": 0.27764, - "precision_at_10": 0.18169, - "precision_at_50": 0.04404, - "precision_at_100": 0.02252, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.50722, - "mrr_at_3": 0.58502, - "mrr_at_5": 0.59779, - "mrr_at_10": 0.60556, - "mrr_at_50": 0.60805, - "mrr_at_100": 0.60828, - "mrr_at_1000": 0.60828 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.5331, - "ndcg_at_3": 0.50351, - "ndcg_at_5": 0.51383, - "ndcg_at_10": 0.5454, - "ndcg_at_50": 0.5885, - "ndcg_at_100": 0.59104, - "ndcg_at_1000": 0.59104, - "map_at_1": 0.25673, - "map_at_3": 0.36041, - "map_at_5": 0.40663, - "map_at_10": 0.4467, - "map_at_50": 0.46905, - "map_at_100": 0.46957, - "map_at_1000": 0.46957, - "recall_at_1": 0.25673, - "recall_at_3": 0.41494, - "recall_at_5": 0.50702, - "recall_at_10": 0.61262, - "recall_at_50": 0.73002, - "recall_at_100": 0.74055, - "recall_at_1000": 0.74055, - "precision_at_1": 0.5331, - "precision_at_3": 0.35638, - "precision_at_5": 0.286, - "precision_at_10": 0.18822, - "precision_at_50": 0.04793, - "precision_at_100": 0.02435, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.53251, - "mrr_at_3": 0.61736, - "mrr_at_5": 0.63233, - "mrr_at_10": 0.63986, - "mrr_at_50": 0.64225, - "mrr_at_100": 0.64232, - "mrr_at_1000": 0.64232 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.61561, - "ndcg_at_3": 0.5805, - "ndcg_at_5": 0.57685, - "ndcg_at_10": 0.64031, - "ndcg_at_50": 0.70273, - "ndcg_at_100": 0.70644, - "ndcg_at_1000": 0.70644, - "map_at_1": 0.19581, - "map_at_3": 0.37143, - "map_at_5": 0.43899, - "map_at_10": 0.51502, - "map_at_50": 0.55362, - "map_at_100": 0.55413, - "map_at_1000": 0.55413, - "recall_at_1": 0.19581, - "recall_at_3": 0.43406, - "recall_at_5": 0.55234, - "recall_at_10": 0.73443, - "recall_at_50": 0.90043, - "recall_at_100": 0.91888, - "recall_at_1000": 0.91888, - "precision_at_1": 0.61561, - "precision_at_3": 0.50193, - "precision_at_5": 0.4, - "precision_at_10": 0.27688, - "precision_at_50": 0.06988, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.61561, - "mrr_at_3": 0.71628, - "mrr_at_5": 0.72943, - "mrr_at_10": 0.73618, - "mrr_at_50": 0.73772, - "mrr_at_100": 0.73789, - "mrr_at_1000": 0.73789 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.61862, - "ndcg_at_3": 0.56884, - "ndcg_at_5": 0.56634, - "ndcg_at_10": 0.61882, - "ndcg_at_50": 0.69383, - "ndcg_at_100": 0.69735, - "ndcg_at_1000": 0.69735, - "map_at_1": 0.17607, - "map_at_3": 0.3318, - "map_at_5": 0.41143, - "map_at_10": 0.49851, - "map_at_50": 0.54328, - "map_at_100": 0.54394, - "map_at_1000": 0.54394, - "recall_at_1": 0.17607, - "recall_at_3": 0.37423, - "recall_at_5": 0.50403, - "recall_at_10": 0.68057, - "recall_at_50": 0.8854, - "recall_at_100": 0.9019, - "recall_at_1000": 0.9019, - "precision_at_1": 0.61862, - "precision_at_3": 0.50651, - "precision_at_5": 0.42883, - "precision_at_10": 0.3039, - "precision_at_50": 0.0788, - "precision_at_100": 0.03988, - "precision_at_1000": 0.00399, - "mrr_at_1": 0.61862, - "mrr_at_3": 0.71121, - "mrr_at_5": 0.72217, - "mrr_at_10": 0.72655, - "mrr_at_50": 0.7293, - "mrr_at_100": 0.72938, - "mrr_at_1000": 0.72938 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.70414, - "ndcg_at_3": 0.62843, - "ndcg_at_5": 0.62322, - "ndcg_at_10": 0.66465, - "ndcg_at_50": 0.71914, - "ndcg_at_100": 0.72307, - "ndcg_at_1000": 0.72307, - "map_at_1": 0.21401, - "map_at_3": 0.3855, - "map_at_5": 0.46964, - "map_at_10": 0.55456, - "map_at_50": 0.58849, - "map_at_100": 0.58923, - "map_at_1000": 0.58923, - "recall_at_1": 0.21401, - "recall_at_3": 0.42433, - "recall_at_5": 0.54933, - "recall_at_10": 0.71404, - "recall_at_50": 0.85759, - "recall_at_100": 0.87577, - "recall_at_1000": 0.87577, - "precision_at_1": 0.70414, - "precision_at_3": 0.53156, - "precision_at_5": 0.44852, - "precision_at_10": 0.30947, - "precision_at_50": 0.07556, - "precision_at_100": 0.03828, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.70414, - "mrr_at_3": 0.76479, - "mrr_at_5": 0.77441, - "mrr_at_10": 0.77844, - "mrr_at_50": 0.78033, - "mrr_at_100": 0.78046, - "mrr_at_1000": 0.78046 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.68732, - "ndcg_at_3": 0.63801, - "ndcg_at_5": 0.64406, - "ndcg_at_10": 0.70005, - "ndcg_at_50": 0.75947, - "ndcg_at_100": 0.76136, - "ndcg_at_1000": 0.76136, - "map_at_1": 0.23132, - "map_at_3": 0.43099, - "map_at_5": 0.5115, - "map_at_10": 0.59068, - "map_at_50": 0.62559, - "map_at_100": 0.62599, - "map_at_1000": 0.62599, - "recall_at_1": 0.23132, - "recall_at_3": 0.48106, - "recall_at_5": 0.61316, - "recall_at_10": 0.77426, - "recall_at_50": 0.9363, - "recall_at_100": 0.94429, - "recall_at_1000": 0.94429, - "precision_at_1": 0.68732, - "precision_at_3": 0.54769, - "precision_at_5": 0.43835, - "precision_at_10": 0.29587, - "precision_at_50": 0.07292, - "precision_at_100": 0.03673, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.68732, - "mrr_at_3": 0.76991, - "mrr_at_5": 0.77994, - "mrr_at_10": 0.78454, - "mrr_at_50": 0.78707, - "mrr_at_100": 0.78707, - "mrr_at_1000": 0.78707 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.7962, - "ndcg_at_3": 0.7309, - "ndcg_at_5": 0.72293, - "ndcg_at_10": 0.77483, - "ndcg_at_50": 0.82393, - "ndcg_at_100": 0.82677, - "ndcg_at_1000": 0.82677, - "map_at_1": 0.28891, - "map_at_3": 0.50329, - "map_at_5": 0.58935, - "map_at_10": 0.67261, - "map_at_50": 0.70546, - "map_at_100": 0.70623, - "map_at_1000": 0.70623, - "recall_at_1": 0.28891, - "recall_at_3": 0.54015, - "recall_at_5": 0.66678, - "recall_at_10": 0.82217, - "recall_at_50": 0.94879, - "recall_at_100": 0.95886, - "recall_at_1000": 0.95886, - "precision_at_1": 0.7962, - "precision_at_3": 0.59601, - "precision_at_5": 0.47989, - "precision_at_10": 0.32337, - "precision_at_50": 0.07679, - "precision_at_100": 0.03891, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.7962, - "mrr_at_3": 0.86187, - "mrr_at_5": 0.86812, - "mrr_at_10": 0.86869, - "mrr_at_50": 0.86966, - "mrr_at_100": 0.86966, - "mrr_at_1000": 0.86966 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.62202, - "ndcg_at_3": 0.58266, - "ndcg_at_5": 0.5988, - "ndcg_at_10": 0.63416, - "ndcg_at_50": 0.68326, - "ndcg_at_100": 0.68848, - "ndcg_at_1000": 0.68848, - "map_at_1": 0.26073, - "map_at_3": 0.43364, - "map_at_5": 0.50121, - "map_at_10": 0.54643, - "map_at_50": 0.56956, - "map_at_100": 0.57037, - "map_at_1000": 0.57037, - "recall_at_1": 0.26073, - "recall_at_3": 0.48142, - "recall_at_5": 0.59597, - "recall_at_10": 0.69557, - "recall_at_50": 0.846, - "recall_at_100": 0.87225, - "recall_at_1000": 0.87225, - "precision_at_1": 0.62202, - "precision_at_3": 0.44841, - "precision_at_5": 0.35893, - "precision_at_10": 0.22381, - "precision_at_50": 0.05446, - "precision_at_100": 0.02777, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.62202, - "mrr_at_3": 0.69544, - "mrr_at_5": 0.70466, - "mrr_at_10": 0.70942, - "mrr_at_50": 0.71365, - "mrr_at_100": 0.71392, - "mrr_at_1000": 0.71392 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.63662, - "ndcg_at_3": 0.58844, - "ndcg_at_5": 0.61311, - "ndcg_at_10": 0.67599, - "ndcg_at_50": 0.71829, - "ndcg_at_100": 0.71991, - "ndcg_at_1000": 0.71991, - "map_at_1": 0.29276, - "map_at_3": 0.45503, - "map_at_5": 0.51051, - "map_at_10": 0.56495, - "map_at_50": 0.58615, - "map_at_100": 0.58633, - "map_at_1000": 0.58633, - "recall_at_1": 0.29276, - "recall_at_3": 0.5303, - "recall_at_5": 0.64208, - "recall_at_10": 0.78923, - "recall_at_50": 0.91618, - "recall_at_100": 0.92486, - "recall_at_1000": 0.92486, - "precision_at_1": 0.63662, - "precision_at_3": 0.42911, - "precision_at_5": 0.32958, - "precision_at_10": 0.21549, - "precision_at_50": 0.05042, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.63944, - "mrr_at_3": 0.72817, - "mrr_at_5": 0.74042, - "mrr_at_10": 0.74701, - "mrr_at_50": 0.74991, - "mrr_at_100": 0.74998, - "mrr_at_1000": 0.74998 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63305, - "ndcg_at_3": 0.57456, - "ndcg_at_5": 0.59256, - "ndcg_at_10": 0.65198, - "ndcg_at_50": 0.69928, - "ndcg_at_100": 0.70185, - "ndcg_at_1000": 0.70185, - "map_at_1": 0.30421, - "map_at_3": 0.45297, - "map_at_5": 0.49736, - "map_at_10": 0.54444, - "map_at_50": 0.5669, - "map_at_100": 0.56736, - "map_at_1000": 0.56736, - "recall_at_1": 0.30421, - "recall_at_3": 0.517, - "recall_at_5": 0.60867, - "recall_at_10": 0.74743, - "recall_at_50": 0.8876, - "recall_at_100": 0.89878, - "recall_at_1000": 0.89878, - "precision_at_1": 0.63305, - "precision_at_3": 0.40523, - "precision_at_5": 0.30308, - "precision_at_10": 0.1972, - "precision_at_50": 0.04857, - "precision_at_100": 0.02462, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.63305, - "mrr_at_3": 0.71475, - "mrr_at_5": 0.7289, - "mrr_at_10": 0.73381, - "mrr_at_50": 0.73705, - "mrr_at_100": 0.73714, - "mrr_at_1000": 0.73714 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.61559, - "ndcg_at_3": 0.5948, - "ndcg_at_5": 0.60872, - "ndcg_at_10": 0.6624, - "ndcg_at_50": 0.70447, - "ndcg_at_100": 0.70841, - "ndcg_at_1000": 0.70841, - "map_at_1": 0.3237, - "map_at_3": 0.4774, - "map_at_5": 0.5185, - "map_at_10": 0.56246, - "map_at_50": 0.58127, - "map_at_100": 0.58187, - "map_at_1000": 0.58187, - "recall_at_1": 0.3237, - "recall_at_3": 0.54347, - "recall_at_5": 0.62971, - "recall_at_10": 0.74939, - "recall_at_50": 0.87997, - "recall_at_100": 0.89852, - "recall_at_1000": 0.89852, - "precision_at_1": 0.61559, - "precision_at_3": 0.40771, - "precision_at_5": 0.3, - "precision_at_10": 0.19409, - "precision_at_50": 0.04715, - "precision_at_100": 0.02406, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.61559, - "mrr_at_3": 0.7164, - "mrr_at_5": 0.72755, - "mrr_at_10": 0.73066, - "mrr_at_50": 0.7336, - "mrr_at_100": 0.73377, - "mrr_at_1000": 0.73377 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.5847, - "ndcg_at_3": 0.53809, - "ndcg_at_5": 0.54986, - "ndcg_at_10": 0.60374, - "ndcg_at_50": 0.66002, - "ndcg_at_100": 0.66925, - "ndcg_at_1000": 0.66925, - "map_at_1": 0.23654, - "map_at_3": 0.38725, - "map_at_5": 0.44547, - "map_at_10": 0.49858, - "map_at_50": 0.52575, - "map_at_100": 0.52696, - "map_at_1000": 0.52696, - "recall_at_1": 0.23654, - "recall_at_3": 0.44472, - "recall_at_5": 0.54795, - "recall_at_10": 0.68447, - "recall_at_50": 0.85582, - "recall_at_100": 0.90368, - "recall_at_1000": 0.90368, - "precision_at_1": 0.5847, - "precision_at_3": 0.41985, - "precision_at_5": 0.33443, - "precision_at_10": 0.22131, - "precision_at_50": 0.05519, - "precision_at_100": 0.0285, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.5847, - "mrr_at_3": 0.66894, - "mrr_at_5": 0.67919, - "mrr_at_10": 0.68649, - "mrr_at_50": 0.6901, - "mrr_at_100": 0.69067, - "mrr_at_1000": 0.69067 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.53243, - "ndcg_at_3": 0.56678, - "ndcg_at_5": 0.60535, - "ndcg_at_10": 0.66796, - "ndcg_at_50": 0.71311, - "ndcg_at_100": 0.71488, - "ndcg_at_1000": 0.71488, - "map_at_1": 0.3026, - "map_at_3": 0.46758, - "map_at_5": 0.51879, - "map_at_10": 0.56745, - "map_at_50": 0.58671, - "map_at_100": 0.58699, - "map_at_1000": 0.58699, - "recall_at_1": 0.3026, - "recall_at_3": 0.55316, - "recall_at_5": 0.66952, - "recall_at_10": 0.8144, - "recall_at_50": 0.96838, - "recall_at_100": 0.97739, - "recall_at_1000": 0.97739, - "precision_at_1": 0.53243, - "precision_at_3": 0.38919, - "precision_at_5": 0.29892, - "precision_at_10": 0.19405, - "precision_at_50": 0.04605, - "precision_at_100": 0.02319, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.53514, - "mrr_at_3": 0.65676, - "mrr_at_5": 0.67365, - "mrr_at_10": 0.67999, - "mrr_at_50": 0.68389, - "mrr_at_100": 0.68398, - "mrr_at_1000": 0.68398 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.40184, - "ndcg_at_3": 0.45974, - "ndcg_at_5": 0.50653, - "ndcg_at_10": 0.56706, - "ndcg_at_50": 0.61286, - "ndcg_at_100": 0.61649, - "ndcg_at_1000": 0.61649, - "map_at_1": 0.26322, - "map_at_3": 0.38764, - "map_at_5": 0.43115, - "map_at_10": 0.47007, - "map_at_50": 0.48666, - "map_at_100": 0.48715, - "map_at_1000": 0.48715, - "recall_at_1": 0.26322, - "recall_at_3": 0.48206, - "recall_at_5": 0.59689, - "recall_at_10": 0.74298, - "recall_at_50": 0.90956, - "recall_at_100": 0.92848, - "recall_at_1000": 0.92848, - "precision_at_1": 0.40184, - "precision_at_3": 0.28528, - "precision_at_5": 0.2227, - "precision_at_10": 0.14663, - "precision_at_50": 0.03577, - "precision_at_100": 0.01822, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.40184, - "mrr_at_3": 0.52045, - "mrr_at_5": 0.54024, - "mrr_at_10": 0.5533, - "mrr_at_50": 0.5589, - "mrr_at_100": 0.55899, - "mrr_at_1000": 0.55899 - }, - "gpt3": { - "ndcg_at_1": 0.37092, - "ndcg_at_3": 0.45222, - "ndcg_at_5": 0.49943, - "ndcg_at_10": 0.54515, - "ndcg_at_50": 0.59139, - "ndcg_at_100": 0.59613, - "ndcg_at_1000": 0.59613, - "map_at_1": 0.29624, - "map_at_3": 0.40249, - "map_at_5": 0.43462, - "map_at_10": 0.45785, - "map_at_50": 0.47104, - "map_at_100": 0.47154, - "map_at_1000": 0.47154, - "recall_at_1": 0.29624, - "recall_at_3": 0.51088, - "recall_at_5": 0.614, - "recall_at_10": 0.73689, - "recall_at_50": 0.91988, - "recall_at_100": 0.94758, - "recall_at_1000": 0.94758, - "precision_at_1": 0.37092, - "precision_at_3": 0.23046, - "precision_at_5": 0.17092, - "precision_at_10": 0.10534, - "precision_at_50": 0.027, - "precision_at_100": 0.01383, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.37092, - "mrr_at_3": 0.48368, - "mrr_at_5": 0.50504, - "mrr_at_10": 0.51934, - "mrr_at_50": 0.52574, - "mrr_at_100": 0.52609, - "mrr_at_1000": 0.52609 - }, - "llm-survey": { - "ndcg_at_1": 0.36695, - "ndcg_at_3": 0.3679, - "ndcg_at_5": 0.40644, - "ndcg_at_10": 0.47186, - "ndcg_at_50": 0.53588, - "ndcg_at_100": 0.54188, - "ndcg_at_1000": 0.54188, - "map_at_1": 0.16787, - "map_at_3": 0.2749, - "map_at_5": 0.32196, - "map_at_10": 0.36612, - "map_at_50": 0.39319, - "map_at_100": 0.39384, - "map_at_1000": 0.39384, - "recall_at_1": 0.16787, - "recall_at_3": 0.34026, - "recall_at_5": 0.44712, - "recall_at_10": 0.61225, - "recall_at_50": 0.82333, - "recall_at_100": 0.85711, - "recall_at_1000": 0.85711, - "precision_at_1": 0.36695, - "precision_at_3": 0.27638, - "precision_at_5": 0.23529, - "precision_at_10": 0.16667, - "precision_at_50": 0.04465, - "precision_at_100": 0.02283, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.36695, - "mrr_at_3": 0.46499, - "mrr_at_5": 0.48375, - "mrr_at_10": 0.49999, - "mrr_at_50": 0.50522, - "mrr_at_100": 0.5057, - "mrr_at_1000": 0.5057 - }, - "gemini": { - "ndcg_at_1": 0.35341, - "ndcg_at_3": 0.49703, - "ndcg_at_5": 0.53142, - "ndcg_at_10": 0.56206, - "ndcg_at_50": 0.6, - "ndcg_at_100": 0.60333, - "ndcg_at_1000": 0.60333, - "map_at_1": 0.35341, - "map_at_3": 0.46319, - "map_at_5": 0.48206, - "map_at_10": 0.49516, - "map_at_50": 0.50405, - "map_at_100": 0.50436, - "map_at_1000": 0.50436, - "recall_at_1": 0.35341, - "recall_at_3": 0.59438, - "recall_at_5": 0.67871, - "recall_at_10": 0.77108, - "recall_at_50": 0.93574, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.35341, - "precision_at_3": 0.19813, - "precision_at_5": 0.13574, - "precision_at_10": 0.07711, - "precision_at_50": 0.01871, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.35341, - "mrr_at_3": 0.46319, - "mrr_at_5": 0.48206, - "mrr_at_10": 0.49516, - "mrr_at_50": 0.50405, - "mrr_at_100": 0.50436, - "mrr_at_1000": 0.50436 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.27429, - "ndcg_at_3": 0.23997, - "ndcg_at_5": 0.24667, - "ndcg_at_10": 0.26423, - "ndcg_at_50": 0.31388, - "ndcg_at_100": 0.32811, - "ndcg_at_1000": 0.36078, - "map_at_1": 0.11279, - "map_at_3": 0.16309, - "map_at_5": 0.18424, - "map_at_10": 0.20319, - "map_at_50": 0.22241, - "map_at_100": 0.22456, - "map_at_1000": 0.22629, - "recall_at_1": 0.11279, - "recall_at_3": 0.19213, - "recall_at_5": 0.24174, - "recall_at_10": 0.30194, - "recall_at_50": 0.45024, - "recall_at_100": 0.51166, - "recall_at_1000": 0.71015, - "precision_at_1": 0.27429, - "precision_at_3": 0.17546, - "precision_at_5": 0.14148, - "precision_at_10": 0.09634, - "precision_at_50": 0.03127, - "precision_at_100": 0.01777, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.27429, - "mrr_at_3": 0.31991, - "mrr_at_5": 0.3328, - "mrr_at_10": 0.34004, - "mrr_at_50": 0.3459, - "mrr_at_100": 0.34657, - "mrr_at_1000": 0.34709 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.43556, - "ndcg_at_3": 0.4232, - "ndcg_at_5": 0.43277, - "ndcg_at_10": 0.46216, - "ndcg_at_50": 0.52616, - "ndcg_at_100": 0.53934, - "ndcg_at_1000": 0.56331, - "map_at_1": 0.19381, - "map_at_3": 0.29359, - "map_at_5": 0.33575, - "map_at_10": 0.37769, - "map_at_50": 0.40797, - "map_at_100": 0.41034, - "map_at_1000": 0.41205, - "recall_at_1": 0.19381, - "recall_at_3": 0.341, - "recall_at_5": 0.41866, - "recall_at_10": 0.52228, - "recall_at_50": 0.70298, - "recall_at_100": 0.75702, - "recall_at_1000": 0.89322, - "precision_at_1": 0.43556, - "precision_at_3": 0.31475, - "precision_at_5": 0.26047, - "precision_at_10": 0.18234, - "precision_at_50": 0.05315, - "precision_at_100": 0.02869, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.43556, - "mrr_at_3": 0.50971, - "mrr_at_5": 0.52569, - "mrr_at_10": 0.5351, - "mrr_at_50": 0.53973, - "mrr_at_100": 0.54014, - "mrr_at_1000": 0.54049 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.60832, - "ndcg_at_3": 0.55619, - "ndcg_at_5": 0.53725, - "ndcg_at_10": 0.55505, - "ndcg_at_50": 0.64242, - "ndcg_at_100": 0.65683, - "ndcg_at_1000": 0.6746, - "map_at_1": 0.16929, - "map_at_3": 0.31037, - "map_at_5": 0.37605, - "map_at_10": 0.44532, - "map_at_50": 0.49461, - "map_at_100": 0.49779, - "map_at_1000": 0.49941, - "recall_at_1": 0.16929, - "recall_at_3": 0.34323, - "recall_at_5": 0.44283, - "recall_at_10": 0.57998, - "recall_at_50": 0.80106, - "recall_at_100": 0.85534, - "recall_at_1000": 0.94492, - "precision_at_1": 0.60832, - "precision_at_3": 0.48394, - "precision_at_5": 0.4032, - "precision_at_10": 0.28444, - "precision_at_50": 0.08258, - "precision_at_100": 0.04396, - "precision_at_1000": 0.00479, - "mrr_at_1": 0.60832, - "mrr_at_3": 0.67698, - "mrr_at_5": 0.68895, - "mrr_at_10": 0.69607, - "mrr_at_50": 0.69981, - "mrr_at_100": 0.70004, - "mrr_at_1000": 0.70017 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.53486, - "ndcg_at_3": 0.48749, - "ndcg_at_5": 0.49621, - "ndcg_at_10": 0.52826, - "ndcg_at_50": 0.582, - "ndcg_at_100": 0.59383, - "ndcg_at_1000": 0.61464, - "map_at_1": 0.24637, - "map_at_3": 0.3745, - "map_at_5": 0.41118, - "map_at_10": 0.43892, - "map_at_50": 0.46035, - "map_at_100": 0.46233, - "map_at_1000": 0.46373, - "recall_at_1": 0.24637, - "recall_at_3": 0.42348, - "recall_at_5": 0.49934, - "recall_at_10": 0.58828, - "recall_at_50": 0.75172, - "recall_at_100": 0.80317, - "recall_at_1000": 0.92414, - "precision_at_1": 0.53486, - "precision_at_3": 0.35032, - "precision_at_5": 0.26081, - "precision_at_10": 0.16204, - "precision_at_50": 0.04414, - "precision_at_100": 0.0238, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.53486, - "mrr_at_3": 0.60672, - "mrr_at_5": 0.61858, - "mrr_at_10": 0.6265, - "mrr_at_50": 0.631, - "mrr_at_100": 0.63135, - "mrr_at_1000": 0.63158 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.40063, - "ndcg_at_3": 0.42488, - "ndcg_at_5": 0.44379, - "ndcg_at_10": 0.4695, - "ndcg_at_50": 0.50583, - "ndcg_at_100": 0.51392, - "ndcg_at_1000": 0.53103, - "map_at_1": 0.24927, - "map_at_3": 0.35591, - "map_at_5": 0.38491, - "map_at_10": 0.40765, - "map_at_50": 0.42219, - "map_at_100": 0.42341, - "map_at_1000": 0.42426, - "recall_at_1": 0.24927, - "recall_at_3": 0.41768, - "recall_at_5": 0.4862, - "recall_at_10": 0.56046, - "recall_at_50": 0.67929, - "recall_at_100": 0.71811, - "recall_at_1000": 0.83741, - "precision_at_1": 0.40063, - "precision_at_3": 0.25973, - "precision_at_5": 0.19457, - "precision_at_10": 0.12101, - "precision_at_50": 0.0316, - "precision_at_100": 0.0168, - "precision_at_1000": 0.0019, - "mrr_at_1": 0.4, - "mrr_at_3": 0.46604, - "mrr_at_5": 0.47846, - "mrr_at_10": 0.48496, - "mrr_at_50": 0.48891, - "mrr_at_100": 0.48928, - "mrr_at_1000": 0.48964 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.61726, - "ndcg_at_3": 0.55229, - "ndcg_at_5": 0.56072, - "ndcg_at_10": 0.58633, - "ndcg_at_50": 0.62035, - "ndcg_at_100": 0.62946, - "ndcg_at_1000": 0.64434, - "map_at_1": 0.36349, - "map_at_3": 0.45861, - "map_at_5": 0.48528, - "map_at_10": 0.50606, - "map_at_50": 0.51972, - "map_at_100": 0.52114, - "map_at_1000": 0.52202, - "recall_at_1": 0.36349, - "recall_at_3": 0.50486, - "recall_at_5": 0.56222, - "recall_at_10": 0.63116, - "recall_at_50": 0.73818, - "recall_at_100": 0.779, - "recall_at_1000": 0.86821, - "precision_at_1": 0.61726, - "precision_at_3": 0.33102, - "precision_at_5": 0.23463, - "precision_at_10": 0.13966, - "precision_at_50": 0.03493, - "precision_at_100": 0.0187, - "precision_at_1000": 0.00213, - "mrr_at_1": 0.61726, - "mrr_at_3": 0.67834, - "mrr_at_5": 0.68636, - "mrr_at_10": 0.69172, - "mrr_at_50": 0.69415, - "mrr_at_100": 0.69444, - "mrr_at_1000": 0.69462 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.42981, - "ndcg_at_3": 0.37188, - "ndcg_at_5": 0.37503, - "ndcg_at_10": 0.4038, - "ndcg_at_50": 0.46476, - "ndcg_at_100": 0.48177, - "ndcg_at_1000": 0.51002, - "map_at_1": 0.18615, - "map_at_3": 0.26284, - "map_at_5": 0.28879, - "map_at_10": 0.31392, - "map_at_50": 0.33663, - "map_at_100": 0.33937, - "map_at_1000": 0.34121, - "recall_at_1": 0.18615, - "recall_at_3": 0.308, - "recall_at_5": 0.36867, - "recall_at_10": 0.45283, - "recall_at_50": 0.63856, - "recall_at_100": 0.71345, - "recall_at_1000": 0.87722, - "precision_at_1": 0.42981, - "precision_at_3": 0.26613, - "precision_at_5": 0.2022, - "precision_at_10": 0.13247, - "precision_at_50": 0.04016, - "precision_at_100": 0.02252, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.42981, - "mrr_at_3": 0.49904, - "mrr_at_5": 0.51261, - "mrr_at_10": 0.52119, - "mrr_at_50": 0.52685, - "mrr_at_100": 0.52738, - "mrr_at_1000": 0.52773 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.45929, - "ndcg_at_3": 0.43525, - "ndcg_at_5": 0.43628, - "ndcg_at_10": 0.46141, - "ndcg_at_50": 0.51816, - "ndcg_at_100": 0.53201, - "ndcg_at_1000": 0.55457, - "map_at_1": 0.22043, - "map_at_3": 0.308, - "map_at_5": 0.33993, - "map_at_10": 0.36999, - "map_at_50": 0.39423, - "map_at_100": 0.39651, - "map_at_1000": 0.39804, - "recall_at_1": 0.22043, - "recall_at_3": 0.36145, - "recall_at_5": 0.43028, - "recall_at_10": 0.51751, - "recall_at_50": 0.68127, - "recall_at_100": 0.74055, - "recall_at_1000": 0.86827, - "precision_at_1": 0.45929, - "precision_at_3": 0.30521, - "precision_at_5": 0.2355, - "precision_at_10": 0.15472, - "precision_at_50": 0.04456, - "precision_at_100": 0.02435, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.45929, - "mrr_at_3": 0.54159, - "mrr_at_5": 0.55677, - "mrr_at_10": 0.56525, - "mrr_at_50": 0.56963, - "mrr_at_100": 0.5701, - "mrr_at_1000": 0.57034 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.5896, - "ndcg_at_3": 0.54013, - "ndcg_at_5": 0.537, - "ndcg_at_10": 0.57673, - "ndcg_at_50": 0.65459, - "ndcg_at_100": 0.67039, - "ndcg_at_1000": 0.68475, - "map_at_1": 0.20154, - "map_at_3": 0.35263, - "map_at_5": 0.40985, - "map_at_10": 0.46262, - "map_at_50": 0.50074, - "map_at_100": 0.50391, - "map_at_1000": 0.50523, - "recall_at_1": 0.20154, - "recall_at_3": 0.40444, - "recall_at_5": 0.50942, - "recall_at_10": 0.63247, - "recall_at_50": 0.85367, - "recall_at_100": 0.91888, - "recall_at_1000": 0.99453, - "precision_at_1": 0.5896, - "precision_at_3": 0.44701, - "precision_at_5": 0.35318, - "precision_at_10": 0.23642, - "precision_at_50": 0.06572, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.5896, - "mrr_at_3": 0.68256, - "mrr_at_5": 0.69485, - "mrr_at_10": 0.70084, - "mrr_at_50": 0.70395, - "mrr_at_100": 0.70438, - "mrr_at_1000": 0.70442 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.56456, - "ndcg_at_3": 0.51989, - "ndcg_at_5": 0.51775, - "ndcg_at_10": 0.55437, - "ndcg_at_50": 0.64329, - "ndcg_at_100": 0.65726, - "ndcg_at_1000": 0.67291, - "map_at_1": 0.16246, - "map_at_3": 0.30418, - "map_at_5": 0.37392, - "map_at_10": 0.43462, - "map_at_50": 0.48331, - "map_at_100": 0.48622, - "map_at_1000": 0.48744, - "recall_at_1": 0.16246, - "recall_at_3": 0.35501, - "recall_at_5": 0.47015, - "recall_at_10": 0.60825, - "recall_at_50": 0.8457, - "recall_at_100": 0.9019, - "recall_at_1000": 0.99176, - "precision_at_1": 0.56456, - "precision_at_3": 0.45345, - "precision_at_5": 0.38258, - "precision_at_10": 0.26006, - "precision_at_50": 0.07514, - "precision_at_100": 0.03988, - "precision_at_1000": 0.00427, - "mrr_at_1": 0.56456, - "mrr_at_3": 0.66366, - "mrr_at_5": 0.67688, - "mrr_at_10": 0.68441, - "mrr_at_50": 0.68648, - "mrr_at_100": 0.68669, - "mrr_at_1000": 0.68684 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.59763, - "ndcg_at_3": 0.53233, - "ndcg_at_5": 0.51142, - "ndcg_at_10": 0.54026, - "ndcg_at_50": 0.62923, - "ndcg_at_100": 0.64308, - "ndcg_at_1000": 0.66451, - "map_at_1": 0.17336, - "map_at_3": 0.31241, - "map_at_5": 0.36755, - "map_at_10": 0.42332, - "map_at_50": 0.46874, - "map_at_100": 0.47163, - "map_at_1000": 0.47352, - "recall_at_1": 0.17336, - "recall_at_3": 0.35367, - "recall_at_5": 0.44332, - "recall_at_10": 0.57556, - "recall_at_50": 0.81995, - "recall_at_100": 0.87577, - "recall_at_1000": 0.99216, - "precision_at_1": 0.59763, - "precision_at_3": 0.45464, - "precision_at_5": 0.36213, - "precision_at_10": 0.24645, - "precision_at_50": 0.07195, - "precision_at_100": 0.03828, - "precision_at_1000": 0.00424, - "mrr_at_1": 0.59763, - "mrr_at_3": 0.6785, - "mrr_at_5": 0.68945, - "mrr_at_10": 0.69579, - "mrr_at_50": 0.70008, - "mrr_at_100": 0.7003, - "mrr_at_1000": 0.70049 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.66077, - "ndcg_at_3": 0.58646, - "ndcg_at_5": 0.58703, - "ndcg_at_10": 0.63352, - "ndcg_at_50": 0.70846, - "ndcg_at_100": 0.71948, - "ndcg_at_1000": 0.73, - "map_at_1": 0.22769, - "map_at_3": 0.39044, - "map_at_5": 0.45635, - "map_at_10": 0.52026, - "map_at_50": 0.5599, - "map_at_100": 0.56201, - "map_at_1000": 0.56301, - "recall_at_1": 0.22769, - "recall_at_3": 0.4308, - "recall_at_5": 0.5433, - "recall_at_10": 0.68526, - "recall_at_50": 0.89713, - "recall_at_100": 0.94429, - "recall_at_1000": 1.0, - "precision_at_1": 0.66077, - "precision_at_3": 0.48673, - "precision_at_5": 0.39233, - "precision_at_10": 0.26254, - "precision_at_50": 0.07032, - "precision_at_100": 0.03673, - "precision_at_1000": 0.00386, - "mrr_at_1": 0.66077, - "mrr_at_3": 0.73451, - "mrr_at_5": 0.74764, - "mrr_at_10": 0.75212, - "mrr_at_50": 0.75506, - "mrr_at_100": 0.75531, - "mrr_at_1000": 0.75536 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.69565, - "ndcg_at_3": 0.64151, - "ndcg_at_5": 0.62712, - "ndcg_at_10": 0.66316, - "ndcg_at_50": 0.74108, - "ndcg_at_100": 0.75214, - "ndcg_at_1000": 0.75992, - "map_at_1": 0.24927, - "map_at_3": 0.42862, - "map_at_5": 0.4948, - "map_at_10": 0.55406, - "map_at_50": 0.59517, - "map_at_100": 0.59782, - "map_at_1000": 0.59862, - "recall_at_1": 0.24927, - "recall_at_3": 0.47312, - "recall_at_5": 0.58154, - "recall_at_10": 0.70803, - "recall_at_50": 0.91715, - "recall_at_100": 0.95886, - "recall_at_1000": 0.99909, - "precision_at_1": 0.69565, - "precision_at_3": 0.5317, - "precision_at_5": 0.41467, - "precision_at_10": 0.26984, - "precision_at_50": 0.07391, - "precision_at_100": 0.03891, - "precision_at_1000": 0.00403, - "mrr_at_1": 0.69565, - "mrr_at_3": 0.76857, - "mrr_at_5": 0.77998, - "mrr_at_10": 0.78375, - "mrr_at_50": 0.78645, - "mrr_at_100": 0.78654, - "mrr_at_1000": 0.78662 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.53274, - "ndcg_at_3": 0.47767, - "ndcg_at_5": 0.49263, - "ndcg_at_10": 0.53136, - "ndcg_at_50": 0.59966, - "ndcg_at_100": 0.61452, - "ndcg_at_1000": 0.63322, - "map_at_1": 0.2286, - "map_at_3": 0.35443, - "map_at_5": 0.39963, - "map_at_10": 0.43426, - "map_at_50": 0.46263, - "map_at_100": 0.46532, - "map_at_1000": 0.4668, - "recall_at_1": 0.2286, - "recall_at_3": 0.39616, - "recall_at_5": 0.49176, - "recall_at_10": 0.59579, - "recall_at_50": 0.80791, - "recall_at_100": 0.87225, - "recall_at_1000": 0.98452, - "precision_at_1": 0.53274, - "precision_at_3": 0.35218, - "precision_at_5": 0.28036, - "precision_at_10": 0.18036, - "precision_at_50": 0.05107, - "precision_at_100": 0.02777, - "precision_at_1000": 0.00307, - "mrr_at_1": 0.53274, - "mrr_at_3": 0.5997, - "mrr_at_5": 0.61875, - "mrr_at_10": 0.62832, - "mrr_at_50": 0.63252, - "mrr_at_100": 0.63295, - "mrr_at_1000": 0.63312 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.56901, - "ndcg_at_3": 0.52338, - "ndcg_at_5": 0.53668, - "ndcg_at_10": 0.58142, - "ndcg_at_50": 0.64766, - "ndcg_at_100": 0.66029, - "ndcg_at_1000": 0.67392, - "map_at_1": 0.28142, - "map_at_3": 0.41018, - "map_at_5": 0.44535, - "map_at_10": 0.47742, - "map_at_50": 0.50416, - "map_at_100": 0.50644, - "map_at_1000": 0.50765, - "recall_at_1": 0.28142, - "recall_at_3": 0.47524, - "recall_at_5": 0.55431, - "recall_at_10": 0.6645, - "recall_at_50": 0.87133, - "recall_at_100": 0.92486, - "recall_at_1000": 1.0, - "precision_at_1": 0.56901, - "precision_at_3": 0.36432, - "precision_at_5": 0.26761, - "precision_at_10": 0.1693, - "precision_at_50": 0.04704, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.56901, - "mrr_at_3": 0.65728, - "mrr_at_5": 0.67221, - "mrr_at_10": 0.68152, - "mrr_at_50": 0.68563, - "mrr_at_100": 0.68587, - "mrr_at_1000": 0.68594 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.58263, - "ndcg_at_3": 0.5346, - "ndcg_at_5": 0.54592, - "ndcg_at_10": 0.59172, - "ndcg_at_50": 0.64796, - "ndcg_at_100": 0.66028, - "ndcg_at_1000": 0.67819, - "map_at_1": 0.28719, - "map_at_3": 0.42186, - "map_at_5": 0.45887, - "map_at_10": 0.49307, - "map_at_50": 0.51557, - "map_at_100": 0.51766, - "map_at_1000": 0.51913, - "recall_at_1": 0.28719, - "recall_at_3": 0.47939, - "recall_at_5": 0.55616, - "recall_at_10": 0.66719, - "recall_at_50": 0.84344, - "recall_at_100": 0.89878, - "recall_at_1000": 1.0, - "precision_at_1": 0.58263, - "precision_at_3": 0.37348, - "precision_at_5": 0.27283, - "precision_at_10": 0.17199, - "precision_at_50": 0.04605, - "precision_at_100": 0.02462, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.58263, - "mrr_at_3": 0.66947, - "mrr_at_5": 0.67955, - "mrr_at_10": 0.68749, - "mrr_at_50": 0.69107, - "mrr_at_100": 0.69126, - "mrr_at_1000": 0.69146 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.61022, - "ndcg_at_3": 0.53729, - "ndcg_at_5": 0.54841, - "ndcg_at_10": 0.58532, - "ndcg_at_50": 0.64646, - "ndcg_at_100": 0.66173, - "ndcg_at_1000": 0.67985, - "map_at_1": 0.32619, - "map_at_3": 0.43452, - "map_at_5": 0.46936, - "map_at_10": 0.49502, - "map_at_50": 0.5189, - "map_at_100": 0.52135, - "map_at_1000": 0.52284, - "recall_at_1": 0.32619, - "recall_at_3": 0.48159, - "recall_at_5": 0.55435, - "recall_at_10": 0.64114, - "recall_at_50": 0.8321, - "recall_at_100": 0.89852, - "recall_at_1000": 1.0, - "precision_at_1": 0.61022, - "precision_at_3": 0.34767, - "precision_at_5": 0.25538, - "precision_at_10": 0.15699, - "precision_at_50": 0.04382, - "precision_at_100": 0.02406, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.61022, - "mrr_at_3": 0.67787, - "mrr_at_5": 0.68607, - "mrr_at_10": 0.69341, - "mrr_at_50": 0.69778, - "mrr_at_100": 0.69817, - "mrr_at_1000": 0.69831 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.53825, - "ndcg_at_3": 0.4732, - "ndcg_at_5": 0.48252, - "ndcg_at_10": 0.53363, - "ndcg_at_50": 0.61215, - "ndcg_at_100": 0.62454, - "ndcg_at_1000": 0.64072, - "map_at_1": 0.23217, - "map_at_3": 0.34258, - "map_at_5": 0.38385, - "map_at_10": 0.4241, - "map_at_50": 0.45774, - "map_at_100": 0.45987, - "map_at_1000": 0.46111, - "recall_at_1": 0.23217, - "recall_at_3": 0.39261, - "recall_at_5": 0.48005, - "recall_at_10": 0.60785, - "recall_at_50": 0.84898, - "recall_at_100": 0.90368, - "recall_at_1000": 0.99636, - "precision_at_1": 0.53825, - "precision_at_3": 0.34608, - "precision_at_5": 0.26885, - "precision_at_10": 0.18142, - "precision_at_50": 0.0535, - "precision_at_100": 0.0285, - "precision_at_1000": 0.00312, - "mrr_at_1": 0.53825, - "mrr_at_3": 0.62341, - "mrr_at_5": 0.63529, - "mrr_at_10": 0.64723, - "mrr_at_50": 0.65111, - "mrr_at_100": 0.65135, - "mrr_at_1000": 0.65153 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.52703, - "ndcg_at_3": 0.55407, - "ndcg_at_5": 0.57788, - "ndcg_at_10": 0.62407, - "ndcg_at_50": 0.68124, - "ndcg_at_100": 0.68877, - "ndcg_at_1000": 0.69253, - "map_at_1": 0.28404, - "map_at_3": 0.44992, - "map_at_5": 0.49093, - "map_at_10": 0.524, - "map_at_50": 0.54711, - "map_at_100": 0.54833, - "map_at_1000": 0.54864, - "recall_at_1": 0.28404, - "recall_at_3": 0.54762, - "recall_at_5": 0.63928, - "recall_at_10": 0.74964, - "recall_at_50": 0.9405, - "recall_at_100": 0.97739, - "recall_at_1000": 1.0, - "precision_at_1": 0.52703, - "precision_at_3": 0.37838, - "precision_at_5": 0.27892, - "precision_at_10": 0.17243, - "precision_at_50": 0.0447, - "precision_at_100": 0.02319, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.52703, - "mrr_at_3": 0.64685, - "mrr_at_5": 0.65968, - "mrr_at_10": 0.66603, - "mrr_at_50": 0.66986, - "mrr_at_100": 0.67005, - "mrr_at_1000": 0.67011 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41411, - "ndcg_at_3": 0.42569, - "ndcg_at_5": 0.46005, - "ndcg_at_10": 0.50788, - "ndcg_at_50": 0.56526, - "ndcg_at_100": 0.58078, - "ndcg_at_1000": 0.59165, - "map_at_1": 0.26368, - "map_at_3": 0.35974, - "map_at_5": 0.39385, - "map_at_10": 0.42348, - "map_at_50": 0.44219, - "map_at_100": 0.44412, - "map_at_1000": 0.44482, - "recall_at_1": 0.26368, - "recall_at_3": 0.43155, - "recall_at_5": 0.51839, - "recall_at_10": 0.63708, - "recall_at_50": 0.84494, - "recall_at_100": 0.92848, - "recall_at_1000": 1.0, - "precision_at_1": 0.41411, - "precision_at_3": 0.2546, - "precision_at_5": 0.19387, - "precision_at_10": 0.12454, - "precision_at_50": 0.03356, - "precision_at_100": 0.01822, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.41411, - "mrr_at_3": 0.50716, - "mrr_at_5": 0.51989, - "mrr_at_10": 0.5315, - "mrr_at_50": 0.53874, - "mrr_at_100": 0.53949, - "mrr_at_1000": 0.53968 - }, - "gpt3": { - "ndcg_at_1": 0.33828, - "ndcg_at_3": 0.40604, - "ndcg_at_5": 0.4582, - "ndcg_at_10": 0.49084, - "ndcg_at_50": 0.55082, - "ndcg_at_100": 0.56139, - "ndcg_at_1000": 0.56939, - "map_at_1": 0.28017, - "map_at_3": 0.36717, - "map_at_5": 0.40148, - "map_at_10": 0.41696, - "map_at_50": 0.43344, - "map_at_100": 0.43467, - "map_at_1000": 0.43518, - "recall_at_1": 0.28017, - "recall_at_3": 0.4545, - "recall_at_5": 0.56751, - "recall_at_10": 0.6543, - "recall_at_50": 0.88971, - "recall_at_100": 0.94758, - "recall_at_1000": 1.0, - "precision_at_1": 0.33828, - "precision_at_3": 0.19782, - "precision_at_5": 0.1549, - "precision_at_10": 0.09199, - "precision_at_50": 0.02588, - "precision_at_100": 0.01383, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.33828, - "mrr_at_3": 0.42928, - "mrr_at_5": 0.45406, - "mrr_at_10": 0.46649, - "mrr_at_50": 0.47653, - "mrr_at_100": 0.47717, - "mrr_at_1000": 0.47734 - }, - "llm-survey": { - "ndcg_at_1": 0.44258, - "ndcg_at_3": 0.41615, - "ndcg_at_5": 0.43694, - "ndcg_at_10": 0.4799, - "ndcg_at_50": 0.54164, - "ndcg_at_100": 0.55803, - "ndcg_at_1000": 0.58, - "map_at_1": 0.204, - "map_at_3": 0.31844, - "map_at_5": 0.35324, - "map_at_10": 0.38391, - "map_at_50": 0.4072, - "map_at_100": 0.40949, - "map_at_1000": 0.41077, - "recall_at_1": 0.204, - "recall_at_3": 0.3772, - "recall_at_5": 0.46029, - "recall_at_10": 0.57776, - "recall_at_50": 0.77816, - "recall_at_100": 0.85711, - "recall_at_1000": 1.0, - "precision_at_1": 0.44258, - "precision_at_3": 0.30159, - "precision_at_5": 0.23081, - "precision_at_10": 0.14622, - "precision_at_50": 0.04185, - "precision_at_100": 0.02283, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.44258, - "mrr_at_3": 0.52334, - "mrr_at_5": 0.54183, - "mrr_at_10": 0.55212, - "mrr_at_50": 0.55689, - "mrr_at_100": 0.55772, - "mrr_at_1000": 0.55803 - }, - "gemini": { - "ndcg_at_1": 0.40562, - "ndcg_at_3": 0.54522, - "ndcg_at_5": 0.57029, - "ndcg_at_10": 0.58953, - "ndcg_at_50": 0.61982, - "ndcg_at_100": 0.63055, - "ndcg_at_1000": 0.63677, - "map_at_1": 0.40562, - "map_at_3": 0.51272, - "map_at_5": 0.52677, - "map_at_10": 0.53458, - "map_at_50": 0.54163, - "map_at_100": 0.54267, - "map_at_1000": 0.54299, - "recall_at_1": 0.40562, - "recall_at_3": 0.63855, - "recall_at_5": 0.6988, - "recall_at_10": 0.75904, - "recall_at_50": 0.89157, - "recall_at_100": 0.95582, - "recall_at_1000": 1.0, - "precision_at_1": 0.40562, - "precision_at_3": 0.21285, - "precision_at_5": 0.13976, - "precision_at_10": 0.0759, - "precision_at_50": 0.01783, - "precision_at_100": 0.00956, - "precision_at_1000": 0.001, - "mrr_at_1": 0.40562, - "mrr_at_3": 0.51272, - "mrr_at_5": 0.52677, - "mrr_at_10": 0.53458, - "mrr_at_50": 0.54163, - "mrr_at_100": 0.54267, - "mrr_at_1000": 0.54299 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.2854, - "ndcg_at_3": 0.27199, - "ndcg_at_5": 0.27939, - "ndcg_at_10": 0.30416, - "ndcg_at_50": 0.34766, - "ndcg_at_100": 0.35367, - "ndcg_at_1000": 0.35367, - "map_at_1": 0.11262, - "map_at_3": 0.18123, - "map_at_5": 0.20891, - "map_at_10": 0.23679, - "map_at_50": 0.25598, - "map_at_100": 0.25688, - "map_at_1000": 0.25688, - "recall_at_1": 0.11262, - "recall_at_3": 0.21689, - "recall_at_5": 0.27629, - "recall_at_10": 0.35644, - "recall_at_50": 0.48371, - "recall_at_100": 0.51166, - "recall_at_1000": 0.51166, - "precision_at_1": 0.2854, - "precision_at_3": 0.21025, - "precision_at_5": 0.17224, - "precision_at_10": 0.11988, - "precision_at_50": 0.03398, - "precision_at_100": 0.01777, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.2854, - "mrr_at_3": 0.34361, - "mrr_at_5": 0.35746, - "mrr_at_10": 0.36582, - "mrr_at_50": 0.37089, - "mrr_at_100": 0.37121, - "mrr_at_1000": 0.37121 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.42255, - "ndcg_at_3": 0.42938, - "ndcg_at_5": 0.44543, - "ndcg_at_10": 0.48123, - "ndcg_at_50": 0.54458, - "ndcg_at_100": 0.55088, - "ndcg_at_1000": 0.55088, - "map_at_1": 0.18777, - "map_at_3": 0.29391, - "map_at_5": 0.34048, - "map_at_10": 0.38876, - "map_at_50": 0.42204, - "map_at_100": 0.42321, - "map_at_1000": 0.42321, - "recall_at_1": 0.18777, - "recall_at_3": 0.35082, - "recall_at_5": 0.44147, - "recall_at_10": 0.56051, - "recall_at_50": 0.7303, - "recall_at_100": 0.75702, - "recall_at_1000": 0.75702, - "precision_at_1": 0.42255, - "precision_at_3": 0.32445, - "precision_at_5": 0.27237, - "precision_at_10": 0.19535, - "precision_at_50": 0.05553, - "precision_at_100": 0.02869, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.42255, - "mrr_at_3": 0.51342, - "mrr_at_5": 0.5309, - "mrr_at_10": 0.54129, - "mrr_at_50": 0.54565, - "mrr_at_100": 0.54584, - "mrr_at_1000": 0.54584 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.48299, - "ndcg_at_3": 0.45287, - "ndcg_at_5": 0.44826, - "ndcg_at_10": 0.48142, - "ndcg_at_50": 0.58957, - "ndcg_at_100": 0.60309, - "ndcg_at_1000": 0.60309, - "map_at_1": 0.13486, - "map_at_3": 0.2467, - "map_at_5": 0.30226, - "map_at_10": 0.36775, - "map_at_50": 0.42498, - "map_at_100": 0.4282, - "map_at_1000": 0.4282, - "recall_at_1": 0.13486, - "recall_at_3": 0.28608, - "recall_at_5": 0.38158, - "recall_at_10": 0.52914, - "recall_at_50": 0.80464, - "recall_at_100": 0.85534, - "recall_at_1000": 0.85534, - "precision_at_1": 0.48299, - "precision_at_3": 0.39611, - "precision_at_5": 0.34179, - "precision_at_10": 0.25719, - "precision_at_50": 0.08295, - "precision_at_100": 0.04396, - "precision_at_1000": 0.0044, - "mrr_at_1": 0.48299, - "mrr_at_3": 0.57095, - "mrr_at_5": 0.58901, - "mrr_at_10": 0.59955, - "mrr_at_50": 0.60491, - "mrr_at_100": 0.60512, - "mrr_at_1000": 0.60512 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.43761, - "ndcg_at_3": 0.4142, - "ndcg_at_5": 0.43338, - "ndcg_at_10": 0.4809, - "ndcg_at_50": 0.546, - "ndcg_at_100": 0.55323, - "ndcg_at_1000": 0.55323, - "map_at_1": 0.19821, - "map_at_3": 0.30784, - "map_at_5": 0.34529, - "map_at_10": 0.38203, - "map_at_50": 0.40882, - "map_at_100": 0.41004, - "map_at_1000": 0.41004, - "recall_at_1": 0.19821, - "recall_at_3": 0.36551, - "recall_at_5": 0.45132, - "recall_at_10": 0.57233, - "recall_at_50": 0.77022, - "recall_at_100": 0.80317, - "recall_at_1000": 0.80317, - "precision_at_1": 0.43761, - "precision_at_3": 0.30502, - "precision_at_5": 0.23866, - "precision_at_10": 0.16128, - "precision_at_50": 0.04574, - "precision_at_100": 0.0238, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.43761, - "mrr_at_3": 0.52656, - "mrr_at_5": 0.54363, - "mrr_at_10": 0.55563, - "mrr_at_50": 0.56102, - "mrr_at_100": 0.56129, - "mrr_at_1000": 0.56129 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.41136, - "ndcg_at_3": 0.43256, - "ndcg_at_5": 0.45369, - "ndcg_at_10": 0.48117, - "ndcg_at_50": 0.51814, - "ndcg_at_100": 0.52318, - "ndcg_at_1000": 0.52318, - "map_at_1": 0.25577, - "map_at_3": 0.3614, - "map_at_5": 0.39445, - "map_at_10": 0.42044, - "map_at_50": 0.43555, - "map_at_100": 0.43616, - "map_at_1000": 0.43616, - "recall_at_1": 0.25577, - "recall_at_3": 0.41825, - "recall_at_5": 0.49287, - "recall_at_10": 0.56895, - "recall_at_50": 0.69125, - "recall_at_100": 0.71811, - "recall_at_1000": 0.71811, - "precision_at_1": 0.41136, - "precision_at_3": 0.26583, - "precision_at_5": 0.20278, - "precision_at_10": 0.12833, - "precision_at_50": 0.03266, - "precision_at_100": 0.0168, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.41073, - "mrr_at_3": 0.47708, - "mrr_at_5": 0.48906, - "mrr_at_10": 0.49552, - "mrr_at_50": 0.49973, - "mrr_at_100": 0.50011, - "mrr_at_1000": 0.50011 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.63463, - "ndcg_at_3": 0.58176, - "ndcg_at_5": 0.5981, - "ndcg_at_10": 0.62798, - "ndcg_at_50": 0.65628, - "ndcg_at_100": 0.65867, - "ndcg_at_1000": 0.65867, - "map_at_1": 0.37845, - "map_at_3": 0.48918, - "map_at_5": 0.52265, - "map_at_10": 0.54881, - "map_at_50": 0.56178, - "map_at_100": 0.56217, - "map_at_1000": 0.56217, - "recall_at_1": 0.37845, - "recall_at_3": 0.53564, - "recall_at_5": 0.60836, - "recall_at_10": 0.68487, - "recall_at_50": 0.76813, - "recall_at_100": 0.779, - "recall_at_1000": 0.779, - "precision_at_1": 0.63463, - "precision_at_3": 0.35148, - "precision_at_5": 0.25617, - "precision_at_10": 0.15489, - "precision_at_50": 0.03679, - "precision_at_100": 0.0187, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.63463, - "mrr_at_3": 0.69629, - "mrr_at_5": 0.70683, - "mrr_at_10": 0.71132, - "mrr_at_50": 0.71352, - "mrr_at_100": 0.71359, - "mrr_at_1000": 0.71359 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.40381, - "ndcg_at_3": 0.38173, - "ndcg_at_5": 0.39611, - "ndcg_at_10": 0.43488, - "ndcg_at_50": 0.49353, - "ndcg_at_100": 0.49841, - "ndcg_at_1000": 0.49841, - "map_at_1": 0.16851, - "map_at_3": 0.26137, - "map_at_5": 0.29837, - "map_at_10": 0.33384, - "map_at_50": 0.35956, - "map_at_100": 0.36031, - "map_at_1000": 0.36031, - "recall_at_1": 0.16851, - "recall_at_3": 0.32476, - "recall_at_5": 0.40851, - "recall_at_10": 0.5146, - "recall_at_50": 0.6903, - "recall_at_100": 0.71345, - "recall_at_1000": 0.71345, - "precision_at_1": 0.40381, - "precision_at_3": 0.28847, - "precision_at_5": 0.23316, - "precision_at_10": 0.15835, - "precision_at_50": 0.04387, - "precision_at_100": 0.02252, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.40381, - "mrr_at_3": 0.50067, - "mrr_at_5": 0.51613, - "mrr_at_10": 0.52445, - "mrr_at_50": 0.52916, - "mrr_at_100": 0.52936, - "mrr_at_1000": 0.52936 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.43234, - "ndcg_at_3": 0.4315, - "ndcg_at_5": 0.44449, - "ndcg_at_10": 0.47953, - "ndcg_at_50": 0.53694, - "ndcg_at_100": 0.54186, - "ndcg_at_1000": 0.54186, - "map_at_1": 0.21597, - "map_at_3": 0.30809, - "map_at_5": 0.34542, - "map_at_10": 0.38227, - "map_at_50": 0.40848, - "map_at_100": 0.4094, - "map_at_1000": 0.4094, - "recall_at_1": 0.21597, - "recall_at_3": 0.37141, - "recall_at_5": 0.45328, - "recall_at_10": 0.55933, - "recall_at_50": 0.71947, - "recall_at_100": 0.74055, - "recall_at_1000": 0.74055, - "precision_at_1": 0.43234, - "precision_at_3": 0.30248, - "precision_at_5": 0.24499, - "precision_at_10": 0.1679, - "precision_at_50": 0.04731, - "precision_at_100": 0.02435, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.43234, - "mrr_at_3": 0.53144, - "mrr_at_5": 0.54808, - "mrr_at_10": 0.55787, - "mrr_at_50": 0.56191, - "mrr_at_100": 0.56209, - "mrr_at_1000": 0.56209 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.46532, - "ndcg_at_3": 0.42733, - "ndcg_at_5": 0.44039, - "ndcg_at_10": 0.50091, - "ndcg_at_50": 0.59384, - "ndcg_at_100": 0.60652, - "ndcg_at_1000": 0.60652, - "map_at_1": 0.14305, - "map_at_3": 0.26131, - "map_at_5": 0.32048, - "map_at_10": 0.37923, - "map_at_50": 0.42377, - "map_at_100": 0.42632, - "map_at_1000": 0.42632, - "recall_at_1": 0.14305, - "recall_at_3": 0.3183, - "recall_at_5": 0.43059, - "recall_at_10": 0.60114, - "recall_at_50": 0.86354, - "recall_at_100": 0.91888, - "recall_at_1000": 0.91888, - "precision_at_1": 0.46532, - "precision_at_3": 0.36416, - "precision_at_5": 0.31098, - "precision_at_10": 0.22572, - "precision_at_50": 0.06717, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.46532, - "mrr_at_3": 0.55491, - "mrr_at_5": 0.57298, - "mrr_at_10": 0.58895, - "mrr_at_50": 0.5943, - "mrr_at_100": 0.59466, - "mrr_at_1000": 0.59466 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.49249, - "ndcg_at_3": 0.44955, - "ndcg_at_5": 0.44131, - "ndcg_at_10": 0.48685, - "ndcg_at_50": 0.59589, - "ndcg_at_100": 0.60896, - "ndcg_at_1000": 0.60896, - "map_at_1": 0.13026, - "map_at_3": 0.25806, - "map_at_5": 0.31386, - "map_at_10": 0.37664, - "map_at_50": 0.42906, - "map_at_100": 0.43174, - "map_at_1000": 0.43174, - "recall_at_1": 0.13026, - "recall_at_3": 0.30058, - "recall_at_5": 0.39263, - "recall_at_10": 0.54647, - "recall_at_50": 0.84913, - "recall_at_100": 0.9019, - "recall_at_1000": 0.9019, - "precision_at_1": 0.49249, - "precision_at_3": 0.39439, - "precision_at_5": 0.32973, - "precision_at_10": 0.23904, - "precision_at_50": 0.07562, - "precision_at_100": 0.03988, - "precision_at_1000": 0.00399, - "mrr_at_1": 0.49249, - "mrr_at_3": 0.56907, - "mrr_at_5": 0.58423, - "mrr_at_10": 0.59624, - "mrr_at_50": 0.60336, - "mrr_at_100": 0.60363, - "mrr_at_1000": 0.60363 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.54734, - "ndcg_at_3": 0.50142, - "ndcg_at_5": 0.50634, - "ndcg_at_10": 0.54018, - "ndcg_at_50": 0.62854, - "ndcg_at_100": 0.63715, - "ndcg_at_1000": 0.63715, - "map_at_1": 0.16209, - "map_at_3": 0.30384, - "map_at_5": 0.36956, - "map_at_10": 0.43118, - "map_at_50": 0.47615, - "map_at_100": 0.47785, - "map_at_1000": 0.47785, - "recall_at_1": 0.16209, - "recall_at_3": 0.34865, - "recall_at_5": 0.46449, - "recall_at_10": 0.59438, - "recall_at_50": 0.83901, - "recall_at_100": 0.87577, - "recall_at_1000": 0.87577, - "precision_at_1": 0.54734, - "precision_at_3": 0.42702, - "precision_at_5": 0.36982, - "precision_at_10": 0.25592, - "precision_at_50": 0.07408, - "precision_at_100": 0.03828, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.54734, - "mrr_at_3": 0.61933, - "mrr_at_5": 0.63886, - "mrr_at_10": 0.64388, - "mrr_at_50": 0.64933, - "mrr_at_100": 0.6495, - "mrr_at_1000": 0.6495 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.53687, - "ndcg_at_3": 0.48794, - "ndcg_at_5": 0.4991, - "ndcg_at_10": 0.55673, - "ndcg_at_50": 0.64272, - "ndcg_at_100": 0.65763, - "ndcg_at_1000": 0.65763, - "map_at_1": 0.17618, - "map_at_3": 0.31903, - "map_at_5": 0.37966, - "map_at_10": 0.44288, - "map_at_50": 0.48559, - "map_at_100": 0.48833, - "map_at_1000": 0.48833, - "recall_at_1": 0.17618, - "recall_at_3": 0.36434, - "recall_at_5": 0.47551, - "recall_at_10": 0.63666, - "recall_at_50": 0.87861, - "recall_at_100": 0.94429, - "recall_at_1000": 0.94429, - "precision_at_1": 0.53687, - "precision_at_3": 0.41691, - "precision_at_5": 0.34159, - "precision_at_10": 0.24189, - "precision_at_50": 0.06926, - "precision_at_100": 0.03673, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.53687, - "mrr_at_3": 0.62045, - "mrr_at_5": 0.63933, - "mrr_at_10": 0.64832, - "mrr_at_50": 0.65205, - "mrr_at_100": 0.65257, - "mrr_at_1000": 0.65257 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.66848, - "ndcg_at_3": 0.63167, - "ndcg_at_5": 0.62867, - "ndcg_at_10": 0.67786, - "ndcg_at_50": 0.75651, - "ndcg_at_100": 0.75995, - "ndcg_at_1000": 0.75995, - "map_at_1": 0.24076, - "map_at_3": 0.42351, - "map_at_5": 0.49449, - "map_at_10": 0.56339, - "map_at_50": 0.60972, - "map_at_100": 0.61056, - "map_at_1000": 0.61056, - "recall_at_1": 0.24076, - "recall_at_3": 0.47563, - "recall_at_5": 0.59099, - "recall_at_10": 0.73928, - "recall_at_50": 0.94577, - "recall_at_100": 0.95886, - "recall_at_1000": 0.95886, - "precision_at_1": 0.66848, - "precision_at_3": 0.52446, - "precision_at_5": 0.42337, - "precision_at_10": 0.28533, - "precision_at_50": 0.07668, - "precision_at_100": 0.03891, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.66848, - "mrr_at_3": 0.76268, - "mrr_at_5": 0.77396, - "mrr_at_10": 0.77837, - "mrr_at_50": 0.78045, - "mrr_at_100": 0.78045, - "mrr_at_1000": 0.78045 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.53571, - "ndcg_at_3": 0.49019, - "ndcg_at_5": 0.50359, - "ndcg_at_10": 0.55267, - "ndcg_at_50": 0.62227, - "ndcg_at_100": 0.62931, - "ndcg_at_1000": 0.62931, - "map_at_1": 0.23806, - "map_at_3": 0.3707, - "map_at_5": 0.41861, - "map_at_10": 0.46034, - "map_at_50": 0.49111, - "map_at_100": 0.49219, - "map_at_1000": 0.49219, - "recall_at_1": 0.23806, - "recall_at_3": 0.41072, - "recall_at_5": 0.50134, - "recall_at_10": 0.62994, - "recall_at_50": 0.83898, - "recall_at_100": 0.87225, - "recall_at_1000": 0.87225, - "precision_at_1": 0.53571, - "precision_at_3": 0.36706, - "precision_at_5": 0.28988, - "precision_at_10": 0.19226, - "precision_at_50": 0.05381, - "precision_at_100": 0.02777, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.53571, - "mrr_at_3": 0.59722, - "mrr_at_5": 0.61225, - "mrr_at_10": 0.62244, - "mrr_at_50": 0.62807, - "mrr_at_100": 0.62841, - "mrr_at_1000": 0.62841 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.60563, - "ndcg_at_3": 0.55928, - "ndcg_at_5": 0.57929, - "ndcg_at_10": 0.61981, - "ndcg_at_50": 0.68595, - "ndcg_at_100": 0.68974, - "ndcg_at_1000": 0.68974, - "map_at_1": 0.28356, - "map_at_3": 0.43701, - "map_at_5": 0.48345, - "map_at_10": 0.51728, - "map_at_50": 0.54649, - "map_at_100": 0.54716, - "map_at_1000": 0.54716, - "recall_at_1": 0.28356, - "recall_at_3": 0.50717, - "recall_at_5": 0.60727, - "recall_at_10": 0.70504, - "recall_at_50": 0.90761, - "recall_at_100": 0.92486, - "recall_at_1000": 0.92486, - "precision_at_1": 0.60563, - "precision_at_3": 0.40188, - "precision_at_5": 0.30197, - "precision_at_10": 0.18592, - "precision_at_50": 0.0498, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.60563, - "mrr_at_3": 0.69296, - "mrr_at_5": 0.70549, - "mrr_at_10": 0.71188, - "mrr_at_50": 0.71629, - "mrr_at_100": 0.71637, - "mrr_at_1000": 0.71637 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.55462, - "ndcg_at_3": 0.51663, - "ndcg_at_5": 0.54286, - "ndcg_at_10": 0.59859, - "ndcg_at_50": 0.6579, - "ndcg_at_100": 0.6633, - "ndcg_at_1000": 0.6633, - "map_at_1": 0.28121, - "map_at_3": 0.41322, - "map_at_5": 0.45689, - "map_at_10": 0.49726, - "map_at_50": 0.52347, - "map_at_100": 0.52446, - "map_at_1000": 0.52446, - "recall_at_1": 0.28121, - "recall_at_3": 0.47147, - "recall_at_5": 0.56808, - "recall_at_10": 0.69724, - "recall_at_50": 0.87427, - "recall_at_100": 0.89878, - "recall_at_1000": 0.89878, - "precision_at_1": 0.55462, - "precision_at_3": 0.35668, - "precision_at_5": 0.27395, - "precision_at_10": 0.18011, - "precision_at_50": 0.0479, - "precision_at_100": 0.02462, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.55462, - "mrr_at_3": 0.63959, - "mrr_at_5": 0.65514, - "mrr_at_10": 0.66497, - "mrr_at_50": 0.66951, - "mrr_at_100": 0.66962, - "mrr_at_1000": 0.66962 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.61828, - "ndcg_at_3": 0.57418, - "ndcg_at_5": 0.59215, - "ndcg_at_10": 0.63745, - "ndcg_at_50": 0.69199, - "ndcg_at_100": 0.69815, - "ndcg_at_1000": 0.69815, - "map_at_1": 0.33735, - "map_at_3": 0.47636, - "map_at_5": 0.5145, - "map_at_10": 0.54653, - "map_at_50": 0.5708, - "map_at_100": 0.57192, - "map_at_1000": 0.57192, - "recall_at_1": 0.33735, - "recall_at_3": 0.52893, - "recall_at_5": 0.607, - "recall_at_10": 0.7101, - "recall_at_50": 0.87184, - "recall_at_100": 0.89852, - "recall_at_1000": 0.89852, - "precision_at_1": 0.61828, - "precision_at_3": 0.37366, - "precision_at_5": 0.27903, - "precision_at_10": 0.17581, - "precision_at_50": 0.04645, - "precision_at_100": 0.02406, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.61828, - "mrr_at_3": 0.6922, - "mrr_at_5": 0.70753, - "mrr_at_10": 0.7155, - "mrr_at_50": 0.71838, - "mrr_at_100": 0.71853, - "mrr_at_1000": 0.71853 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.38251, - "ndcg_at_3": 0.36491, - "ndcg_at_5": 0.3727, - "ndcg_at_10": 0.42811, - "ndcg_at_50": 0.53095, - "ndcg_at_100": 0.54472, - "ndcg_at_1000": 0.54472, - "map_at_1": 0.15498, - "map_at_3": 0.25493, - "map_at_5": 0.28619, - "map_at_10": 0.32777, - "map_at_50": 0.36854, - "map_at_100": 0.37075, - "map_at_1000": 0.37075, - "recall_at_1": 0.15498, - "recall_at_3": 0.31428, - "recall_at_5": 0.38746, - "recall_at_10": 0.52012, - "recall_at_50": 0.83923, - "recall_at_100": 0.90368, - "recall_at_1000": 0.90368, - "precision_at_1": 0.38251, - "precision_at_3": 0.28506, - "precision_at_5": 0.22186, - "precision_at_10": 0.16093, - "precision_at_50": 0.05361, - "precision_at_100": 0.0285, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.38251, - "mrr_at_3": 0.46676, - "mrr_at_5": 0.48247, - "mrr_at_10": 0.49753, - "mrr_at_50": 0.50664, - "mrr_at_100": 0.50718, - "mrr_at_1000": 0.50718 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.44054, - "ndcg_at_3": 0.45602, - "ndcg_at_5": 0.49299, - "ndcg_at_10": 0.55575, - "ndcg_at_50": 0.6259, - "ndcg_at_100": 0.6335, - "ndcg_at_1000": 0.6335, - "map_at_1": 0.24524, - "map_at_3": 0.37017, - "map_at_5": 0.41279, - "map_at_10": 0.45596, - "map_at_50": 0.48237, - "map_at_100": 0.48358, - "map_at_1000": 0.48358, - "recall_at_1": 0.24524, - "recall_at_3": 0.44903, - "recall_at_5": 0.55106, - "recall_at_10": 0.70527, - "recall_at_50": 0.93896, - "recall_at_100": 0.97739, - "recall_at_1000": 0.97739, - "precision_at_1": 0.44054, - "precision_at_3": 0.3009, - "precision_at_5": 0.23892, - "precision_at_10": 0.16108, - "precision_at_50": 0.04481, - "precision_at_100": 0.02319, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.44054, - "mrr_at_3": 0.54459, - "mrr_at_5": 0.56365, - "mrr_at_10": 0.57537, - "mrr_at_50": 0.58232, - "mrr_at_100": 0.58252, - "mrr_at_1000": 0.58252 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.34969, - "ndcg_at_3": 0.40629, - "ndcg_at_5": 0.45204, - "ndcg_at_10": 0.50617, - "ndcg_at_50": 0.56324, - "ndcg_at_100": 0.5723, - "ndcg_at_1000": 0.5723, - "map_at_1": 0.22868, - "map_at_3": 0.3435, - "map_at_5": 0.38268, - "map_at_10": 0.41566, - "map_at_50": 0.4354, - "map_at_100": 0.4365, - "map_at_1000": 0.4365, - "recall_at_1": 0.22868, - "recall_at_3": 0.42917, - "recall_at_5": 0.54175, - "recall_at_10": 0.6754, - "recall_at_50": 0.87945, - "recall_at_100": 0.92848, - "recall_at_1000": 0.92848, - "precision_at_1": 0.34969, - "precision_at_3": 0.25153, - "precision_at_5": 0.2, - "precision_at_10": 0.1319, - "precision_at_50": 0.03491, - "precision_at_100": 0.01822, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.34969, - "mrr_at_3": 0.45706, - "mrr_at_5": 0.47991, - "mrr_at_10": 0.49286, - "mrr_at_50": 0.50004, - "mrr_at_100": 0.50061, - "mrr_at_1000": 0.50061 - }, - "gpt3": { - "ndcg_at_1": 0.30564, - "ndcg_at_3": 0.35335, - "ndcg_at_5": 0.40735, - "ndcg_at_10": 0.46024, - "ndcg_at_50": 0.51985, - "ndcg_at_100": 0.52872, - "ndcg_at_1000": 0.52872, - "map_at_1": 0.2406, - "map_at_3": 0.31582, - "map_at_5": 0.34878, - "map_at_10": 0.37403, - "map_at_50": 0.39009, - "map_at_100": 0.39117, - "map_at_1000": 0.39117, - "recall_at_1": 0.2406, - "recall_at_3": 0.40035, - "recall_at_5": 0.51731, - "recall_at_10": 0.66024, - "recall_at_50": 0.89837, - "recall_at_100": 0.94758, - "recall_at_1000": 0.94758, - "precision_at_1": 0.30564, - "precision_at_3": 0.17211, - "precision_at_5": 0.14184, - "precision_at_10": 0.09347, - "precision_at_50": 0.02623, - "precision_at_100": 0.01383, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.30564, - "mrr_at_3": 0.37883, - "mrr_at_5": 0.4091, - "mrr_at_10": 0.42972, - "mrr_at_50": 0.43862, - "mrr_at_100": 0.43914, - "mrr_at_1000": 0.43914 - }, - "llm-survey": { - "ndcg_at_1": 0.42017, - "ndcg_at_3": 0.41134, - "ndcg_at_5": 0.42749, - "ndcg_at_10": 0.47037, - "ndcg_at_50": 0.54071, - "ndcg_at_100": 0.55305, - "ndcg_at_1000": 0.55305, - "map_at_1": 0.19182, - "map_at_3": 0.31482, - "map_at_5": 0.34896, - "map_at_10": 0.38291, - "map_at_50": 0.40931, - "map_at_100": 0.411, - "map_at_1000": 0.411, - "recall_at_1": 0.19182, - "recall_at_3": 0.37861, - "recall_at_5": 0.45059, - "recall_at_10": 0.55804, - "recall_at_50": 0.79539, - "recall_at_100": 0.85711, - "recall_at_1000": 0.85711, - "precision_at_1": 0.42017, - "precision_at_3": 0.30719, - "precision_at_5": 0.23081, - "precision_at_10": 0.15098, - "precision_at_50": 0.04308, - "precision_at_100": 0.02283, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.42017, - "mrr_at_3": 0.50934, - "mrr_at_5": 0.52012, - "mrr_at_10": 0.52836, - "mrr_at_50": 0.53566, - "mrr_at_100": 0.53635, - "mrr_at_1000": 0.53635 - }, - "gemini": { - "ndcg_at_1": 0.38554, - "ndcg_at_3": 0.50172, - "ndcg_at_5": 0.52315, - "ndcg_at_10": 0.55853, - "ndcg_at_50": 0.59673, - "ndcg_at_100": 0.60336, - "ndcg_at_1000": 0.60336, - "map_at_1": 0.38554, - "map_at_3": 0.47256, - "map_at_5": 0.4844, - "map_at_10": 0.49918, - "map_at_50": 0.50778, - "map_at_100": 0.50841, - "map_at_1000": 0.50841, - "recall_at_1": 0.38554, - "recall_at_3": 0.58635, - "recall_at_5": 0.63855, - "recall_at_10": 0.74699, - "recall_at_50": 0.91566, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.38554, - "precision_at_3": 0.19545, - "precision_at_5": 0.12771, - "precision_at_10": 0.0747, - "precision_at_50": 0.01831, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.38554, - "mrr_at_3": 0.47256, - "mrr_at_5": 0.4844, - "mrr_at_10": 0.49918, - "mrr_at_50": 0.50778, - "mrr_at_100": 0.50841, - "mrr_at_1000": 0.50841 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.29872, - "ndcg_at_3": 0.27138, - "ndcg_at_5": 0.27777, - "ndcg_at_10": 0.30128, - "ndcg_at_50": 0.34731, - "ndcg_at_100": 0.35385, - "ndcg_at_1000": 0.35385, - "map_at_1": 0.12449, - "map_at_3": 0.18452, - "map_at_5": 0.20962, - "map_at_10": 0.2349, - "map_at_50": 0.25454, - "map_at_100": 0.25557, - "map_at_1000": 0.25557, - "recall_at_1": 0.12449, - "recall_at_3": 0.21654, - "recall_at_5": 0.27245, - "recall_at_10": 0.34898, - "recall_at_50": 0.48315, - "recall_at_100": 0.51166, - "recall_at_1000": 0.51166, - "precision_at_1": 0.29872, - "precision_at_3": 0.20211, - "precision_at_5": 0.16313, - "precision_at_10": 0.11333, - "precision_at_50": 0.03366, - "precision_at_100": 0.01777, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.29872, - "mrr_at_3": 0.34897, - "mrr_at_5": 0.36249, - "mrr_at_10": 0.37061, - "mrr_at_50": 0.37586, - "mrr_at_100": 0.37621, - "mrr_at_1000": 0.37621 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.43061, - "ndcg_at_3": 0.43716, - "ndcg_at_5": 0.45364, - "ndcg_at_10": 0.48674, - "ndcg_at_50": 0.5488, - "ndcg_at_100": 0.55604, - "ndcg_at_1000": 0.55604, - "map_at_1": 0.19643, - "map_at_3": 0.30363, - "map_at_5": 0.35123, - "map_at_10": 0.39697, - "map_at_50": 0.42957, - "map_at_100": 0.43085, - "map_at_1000": 0.43085, - "recall_at_1": 0.19643, - "recall_at_3": 0.35873, - "recall_at_5": 0.45016, - "recall_at_10": 0.56056, - "recall_at_50": 0.72663, - "recall_at_100": 0.75702, - "recall_at_1000": 0.75702, - "precision_at_1": 0.43061, - "precision_at_3": 0.32858, - "precision_at_5": 0.27559, - "precision_at_10": 0.1948, - "precision_at_50": 0.05517, - "precision_at_100": 0.02869, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.43061, - "mrr_at_3": 0.51983, - "mrr_at_5": 0.53665, - "mrr_at_10": 0.54651, - "mrr_at_50": 0.55064, - "mrr_at_100": 0.55088, - "mrr_at_1000": 0.55088 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.42523, - "ndcg_at_3": 0.40731, - "ndcg_at_5": 0.40746, - "ndcg_at_10": 0.44318, - "ndcg_at_50": 0.55593, - "ndcg_at_100": 0.57435, - "ndcg_at_1000": 0.57435, - "map_at_1": 0.11676, - "map_at_3": 0.21826, - "map_at_5": 0.26933, - "map_at_10": 0.33007, - "map_at_50": 0.38726, - "map_at_100": 0.39152, - "map_at_1000": 0.39152, - "recall_at_1": 0.11676, - "recall_at_3": 0.26005, - "recall_at_5": 0.35329, - "recall_at_10": 0.49815, - "recall_at_50": 0.7861, - "recall_at_100": 0.85534, - "recall_at_1000": 0.85534, - "precision_at_1": 0.42523, - "precision_at_3": 0.35886, - "precision_at_5": 0.31372, - "precision_at_10": 0.23961, - "precision_at_50": 0.08111, - "precision_at_100": 0.04396, - "precision_at_1000": 0.0044, - "mrr_at_1": 0.42618, - "mrr_at_3": 0.52094, - "mrr_at_5": 0.54118, - "mrr_at_10": 0.55356, - "mrr_at_50": 0.55964, - "mrr_at_100": 0.55995, - "mrr_at_1000": 0.55995 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.45284, - "ndcg_at_3": 0.42366, - "ndcg_at_5": 0.44034, - "ndcg_at_10": 0.48541, - "ndcg_at_50": 0.54495, - "ndcg_at_100": 0.55553, - "ndcg_at_1000": 0.55553, - "map_at_1": 0.20095, - "map_at_3": 0.31502, - "map_at_5": 0.3534, - "map_at_10": 0.38894, - "map_at_50": 0.41297, - "map_at_100": 0.41463, - "map_at_1000": 0.41463, - "recall_at_1": 0.20095, - "recall_at_3": 0.36717, - "recall_at_5": 0.45115, - "recall_at_10": 0.56949, - "recall_at_50": 0.75402, - "recall_at_100": 0.80317, - "recall_at_1000": 0.80317, - "precision_at_1": 0.45284, - "precision_at_3": 0.31439, - "precision_at_5": 0.24581, - "precision_at_10": 0.16321, - "precision_at_50": 0.04489, - "precision_at_100": 0.0238, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.45343, - "mrr_at_3": 0.53642, - "mrr_at_5": 0.55244, - "mrr_at_10": 0.56381, - "mrr_at_50": 0.5689, - "mrr_at_100": 0.56933, - "mrr_at_1000": 0.56933 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.41388, - "ndcg_at_3": 0.44234, - "ndcg_at_5": 0.462, - "ndcg_at_10": 0.48942, - "ndcg_at_50": 0.52387, - "ndcg_at_100": 0.52874, - "ndcg_at_1000": 0.52874, - "map_at_1": 0.25633, - "map_at_3": 0.36995, - "map_at_5": 0.4017, - "map_at_10": 0.42726, - "map_at_50": 0.44187, - "map_at_100": 0.44251, - "map_at_1000": 0.44251, - "recall_at_1": 0.25633, - "recall_at_3": 0.43339, - "recall_at_5": 0.50447, - "recall_at_10": 0.58116, - "recall_at_50": 0.69235, - "recall_at_100": 0.71811, - "recall_at_1000": 0.71811, - "precision_at_1": 0.41388, - "precision_at_3": 0.2734, - "precision_at_5": 0.20593, - "precision_at_10": 0.12927, - "precision_at_50": 0.03262, - "precision_at_100": 0.0168, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.41388, - "mrr_at_3": 0.48591, - "mrr_at_5": 0.49783, - "mrr_at_10": 0.50315, - "mrr_at_50": 0.50696, - "mrr_at_100": 0.50725, - "mrr_at_1000": 0.50725 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.5773, - "ndcg_at_3": 0.5516, - "ndcg_at_5": 0.56785, - "ndcg_at_10": 0.59949, - "ndcg_at_50": 0.62876, - "ndcg_at_100": 0.63295, - "ndcg_at_1000": 0.63295, - "map_at_1": 0.34298, - "map_at_3": 0.45848, - "map_at_5": 0.49152, - "map_at_10": 0.51748, - "map_at_50": 0.52987, - "map_at_100": 0.53054, - "map_at_1000": 0.53054, - "recall_at_1": 0.34298, - "recall_at_3": 0.51892, - "recall_at_5": 0.58871, - "recall_at_10": 0.66993, - "recall_at_50": 0.75949, - "recall_at_100": 0.779, - "recall_at_1000": 0.779, - "precision_at_1": 0.5773, - "precision_at_3": 0.34221, - "precision_at_5": 0.24887, - "precision_at_10": 0.15177, - "precision_at_50": 0.03635, - "precision_at_100": 0.0187, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.57788, - "mrr_at_3": 0.65547, - "mrr_at_5": 0.66595, - "mrr_at_10": 0.67162, - "mrr_at_50": 0.6742, - "mrr_at_100": 0.67433, - "mrr_at_1000": 0.67433 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.3859, - "ndcg_at_3": 0.36489, - "ndcg_at_5": 0.37877, - "ndcg_at_10": 0.41702, - "ndcg_at_50": 0.47843, - "ndcg_at_100": 0.48632, - "ndcg_at_1000": 0.48632, - "map_at_1": 0.16418, - "map_at_3": 0.252, - "map_at_5": 0.28665, - "map_at_10": 0.3202, - "map_at_50": 0.34597, - "map_at_100": 0.34722, - "map_at_1000": 0.34722, - "recall_at_1": 0.16418, - "recall_at_3": 0.3092, - "recall_at_5": 0.38962, - "recall_at_10": 0.49251, - "recall_at_50": 0.6759, - "recall_at_100": 0.71345, - "recall_at_1000": 0.71345, - "precision_at_1": 0.3859, - "precision_at_3": 0.27364, - "precision_at_5": 0.22045, - "precision_at_10": 0.14986, - "precision_at_50": 0.04318, - "precision_at_100": 0.02252, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.3859, - "mrr_at_3": 0.4792, - "mrr_at_5": 0.49604, - "mrr_at_10": 0.50405, - "mrr_at_50": 0.50953, - "mrr_at_100": 0.50988, - "mrr_at_1000": 0.50988 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.43878, - "ndcg_at_3": 0.4325, - "ndcg_at_5": 0.44114, - "ndcg_at_10": 0.47496, - "ndcg_at_50": 0.53454, - "ndcg_at_100": 0.5407, - "ndcg_at_1000": 0.5407, - "map_at_1": 0.21754, - "map_at_3": 0.31239, - "map_at_5": 0.34622, - "map_at_10": 0.38047, - "map_at_50": 0.40752, - "map_at_100": 0.4087, - "map_at_1000": 0.4087, - "recall_at_1": 0.21754, - "recall_at_3": 0.37383, - "recall_at_5": 0.44582, - "recall_at_10": 0.54848, - "recall_at_50": 0.71519, - "recall_at_100": 0.74055, - "recall_at_1000": 0.74055, - "precision_at_1": 0.43878, - "precision_at_3": 0.29994, - "precision_at_5": 0.23843, - "precision_at_10": 0.16274, - "precision_at_50": 0.04678, - "precision_at_100": 0.02435, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.43878, - "mrr_at_3": 0.53134, - "mrr_at_5": 0.54769, - "mrr_at_10": 0.55793, - "mrr_at_50": 0.56225, - "mrr_at_100": 0.56245, - "mrr_at_1000": 0.56245 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.43642, - "ndcg_at_3": 0.39413, - "ndcg_at_5": 0.40073, - "ndcg_at_10": 0.4549, - "ndcg_at_50": 0.56645, - "ndcg_at_100": 0.58173, - "ndcg_at_1000": 0.58173, - "map_at_1": 0.14388, - "map_at_3": 0.25446, - "map_at_5": 0.29751, - "map_at_10": 0.34836, - "map_at_50": 0.39735, - "map_at_100": 0.40017, - "map_at_1000": 0.40017, - "recall_at_1": 0.14388, - "recall_at_3": 0.2905, - "recall_at_5": 0.37884, - "recall_at_10": 0.52878, - "recall_at_50": 0.85339, - "recall_at_100": 0.91888, - "recall_at_1000": 0.91888, - "precision_at_1": 0.43642, - "precision_at_3": 0.33044, - "precision_at_5": 0.27514, - "precision_at_10": 0.19971, - "precision_at_50": 0.06607, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.43642, - "mrr_at_3": 0.50674, - "mrr_at_5": 0.52842, - "mrr_at_10": 0.54453, - "mrr_at_50": 0.55338, - "mrr_at_100": 0.55363, - "mrr_at_1000": 0.55363 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.42342, - "ndcg_at_3": 0.38978, - "ndcg_at_5": 0.39015, - "ndcg_at_10": 0.43803, - "ndcg_at_50": 0.55379, - "ndcg_at_100": 0.57421, - "ndcg_at_1000": 0.57421, - "map_at_1": 0.11684, - "map_at_3": 0.2211, - "map_at_5": 0.26777, - "map_at_10": 0.32421, - "map_at_50": 0.37894, - "map_at_100": 0.38347, - "map_at_1000": 0.38347, - "recall_at_1": 0.11684, - "recall_at_3": 0.26094, - "recall_at_5": 0.34942, - "recall_at_10": 0.50065, - "recall_at_50": 0.82147, - "recall_at_100": 0.9019, - "recall_at_1000": 0.9019, - "precision_at_1": 0.42342, - "precision_at_3": 0.34234, - "precision_at_5": 0.2955, - "precision_at_10": 0.21742, - "precision_at_50": 0.07285, - "precision_at_100": 0.03988, - "precision_at_1000": 0.00399, - "mrr_at_1": 0.42342, - "mrr_at_3": 0.50751, - "mrr_at_5": 0.52928, - "mrr_at_10": 0.54466, - "mrr_at_50": 0.55157, - "mrr_at_100": 0.55182, - "mrr_at_1000": 0.55182 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.48817, - "ndcg_at_3": 0.45606, - "ndcg_at_5": 0.45496, - "ndcg_at_10": 0.49318, - "ndcg_at_50": 0.59058, - "ndcg_at_100": 0.60423, - "ndcg_at_1000": 0.60423, - "map_at_1": 0.14822, - "map_at_3": 0.26817, - "map_at_5": 0.32409, - "map_at_10": 0.38314, - "map_at_50": 0.43129, - "map_at_100": 0.43393, - "map_at_1000": 0.43393, - "recall_at_1": 0.14822, - "recall_at_3": 0.30823, - "recall_at_5": 0.40659, - "recall_at_10": 0.55094, - "recall_at_50": 0.81793, - "recall_at_100": 0.87577, - "recall_at_1000": 0.87577, - "precision_at_1": 0.48817, - "precision_at_3": 0.39546, - "precision_at_5": 0.3355, - "precision_at_10": 0.23757, - "precision_at_50": 0.0726, - "precision_at_100": 0.03828, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.48817, - "mrr_at_3": 0.5789, - "mrr_at_5": 0.59354, - "mrr_at_10": 0.60258, - "mrr_at_50": 0.60854, - "mrr_at_100": 0.60892, - "mrr_at_1000": 0.60892 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.51327, - "ndcg_at_3": 0.4526, - "ndcg_at_5": 0.45172, - "ndcg_at_10": 0.51239, - "ndcg_at_50": 0.61036, - "ndcg_at_100": 0.629, - "ndcg_at_1000": 0.629, - "map_at_1": 0.1675, - "map_at_3": 0.29175, - "map_at_5": 0.33816, - "map_at_10": 0.39716, - "map_at_50": 0.44348, - "map_at_100": 0.447, - "map_at_1000": 0.447, - "recall_at_1": 0.1675, - "recall_at_3": 0.33292, - "recall_at_5": 0.41961, - "recall_at_10": 0.58514, - "recall_at_50": 0.86529, - "recall_at_100": 0.94429, - "recall_at_1000": 0.94429, - "precision_at_1": 0.51327, - "precision_at_3": 0.38643, - "precision_at_5": 0.30796, - "precision_at_10": 0.22448, - "precision_at_50": 0.06796, - "precision_at_100": 0.03673, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.51327, - "mrr_at_3": 0.5939, - "mrr_at_5": 0.60836, - "mrr_at_10": 0.62217, - "mrr_at_50": 0.62716, - "mrr_at_100": 0.62778, - "mrr_at_1000": 0.62778 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.69293, - "ndcg_at_3": 0.62637, - "ndcg_at_5": 0.62272, - "ndcg_at_10": 0.66965, - "ndcg_at_50": 0.75327, - "ndcg_at_100": 0.7584, - "ndcg_at_1000": 0.7584, - "map_at_1": 0.25612, - "map_at_3": 0.42343, - "map_at_5": 0.4926, - "map_at_10": 0.55926, - "map_at_50": 0.60713, - "map_at_100": 0.6082, - "map_at_1000": 0.6082, - "recall_at_1": 0.25612, - "recall_at_3": 0.4581, - "recall_at_5": 0.57699, - "recall_at_10": 0.71558, - "recall_at_50": 0.938, - "recall_at_100": 0.95886, - "recall_at_1000": 0.95886, - "precision_at_1": 0.69293, - "precision_at_3": 0.50906, - "precision_at_5": 0.40924, - "precision_at_10": 0.27908, - "precision_at_50": 0.07625, - "precision_at_100": 0.03891, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.69293, - "mrr_at_3": 0.76495, - "mrr_at_5": 0.77921, - "mrr_at_10": 0.78227, - "mrr_at_50": 0.78491, - "mrr_at_100": 0.78499, - "mrr_at_1000": 0.78499 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.51488, - "ndcg_at_3": 0.50139, - "ndcg_at_5": 0.50792, - "ndcg_at_10": 0.55629, - "ndcg_at_50": 0.61933, - "ndcg_at_100": 0.62998, - "ndcg_at_1000": 0.62998, - "map_at_1": 0.23418, - "map_at_3": 0.37733, - "map_at_5": 0.41876, - "map_at_10": 0.46151, - "map_at_50": 0.48948, - "map_at_100": 0.49109, - "map_at_1000": 0.49109, - "recall_at_1": 0.23418, - "recall_at_3": 0.43113, - "recall_at_5": 0.50965, - "recall_at_10": 0.63878, - "recall_at_50": 0.82013, - "recall_at_100": 0.87225, - "recall_at_1000": 0.87225, - "precision_at_1": 0.51488, - "precision_at_3": 0.37302, - "precision_at_5": 0.28571, - "precision_at_10": 0.19048, - "precision_at_50": 0.05304, - "precision_at_100": 0.02777, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.51488, - "mrr_at_3": 0.60665, - "mrr_at_5": 0.619, - "mrr_at_10": 0.62707, - "mrr_at_50": 0.6314, - "mrr_at_100": 0.63189, - "mrr_at_1000": 0.63189 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.56338, - "ndcg_at_3": 0.54138, - "ndcg_at_5": 0.55969, - "ndcg_at_10": 0.61287, - "ndcg_at_50": 0.67451, - "ndcg_at_100": 0.67926, - "ndcg_at_1000": 0.67926, - "map_at_1": 0.2694, - "map_at_3": 0.42279, - "map_at_5": 0.46793, - "map_at_10": 0.51047, - "map_at_50": 0.53696, - "map_at_100": 0.53777, - "map_at_1000": 0.53777, - "recall_at_1": 0.2694, - "recall_at_3": 0.4921, - "recall_at_5": 0.58425, - "recall_at_10": 0.70845, - "recall_at_50": 0.90228, - "recall_at_100": 0.92486, - "recall_at_1000": 0.92486, - "precision_at_1": 0.56338, - "precision_at_3": 0.38779, - "precision_at_5": 0.29352, - "precision_at_10": 0.18986, - "precision_at_50": 0.04963, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.56338, - "mrr_at_3": 0.66385, - "mrr_at_5": 0.67624, - "mrr_at_10": 0.68351, - "mrr_at_50": 0.68868, - "mrr_at_100": 0.68878, - "mrr_at_1000": 0.68878 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.54902, - "ndcg_at_3": 0.50623, - "ndcg_at_5": 0.52461, - "ndcg_at_10": 0.57353, - "ndcg_at_50": 0.64126, - "ndcg_at_100": 0.64894, - "ndcg_at_1000": 0.64894, - "map_at_1": 0.2739, - "map_at_3": 0.4009, - "map_at_5": 0.43793, - "map_at_10": 0.47168, - "map_at_50": 0.5015, - "map_at_100": 0.50267, - "map_at_1000": 0.50267, - "recall_at_1": 0.2739, - "recall_at_3": 0.46265, - "recall_at_5": 0.54711, - "recall_at_10": 0.66095, - "recall_at_50": 0.86172, - "recall_at_100": 0.89878, - "recall_at_1000": 0.89878, - "precision_at_1": 0.54902, - "precision_at_3": 0.35014, - "precision_at_5": 0.2605, - "precision_at_10": 0.16779, - "precision_at_50": 0.04756, - "precision_at_100": 0.02462, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.54902, - "mrr_at_3": 0.63585, - "mrr_at_5": 0.6486, - "mrr_at_10": 0.65942, - "mrr_at_50": 0.66313, - "mrr_at_100": 0.66342, - "mrr_at_1000": 0.66342 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.52957, - "ndcg_at_3": 0.51914, - "ndcg_at_5": 0.53309, - "ndcg_at_10": 0.57474, - "ndcg_at_50": 0.64277, - "ndcg_at_100": 0.65137, - "ndcg_at_1000": 0.65137, - "map_at_1": 0.2905, - "map_at_3": 0.42278, - "map_at_5": 0.45315, - "map_at_10": 0.48158, - "map_at_50": 0.51029, - "map_at_100": 0.51173, - "map_at_1000": 0.51173, - "recall_at_1": 0.2905, - "recall_at_3": 0.49243, - "recall_at_5": 0.56163, - "recall_at_10": 0.65495, - "recall_at_50": 0.86086, - "recall_at_100": 0.89852, - "recall_at_1000": 0.89852, - "precision_at_1": 0.52957, - "precision_at_3": 0.34409, - "precision_at_5": 0.25323, - "precision_at_10": 0.16102, - "precision_at_50": 0.04575, - "precision_at_100": 0.02406, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.52957, - "mrr_at_3": 0.62366, - "mrr_at_5": 0.63992, - "mrr_at_10": 0.64821, - "mrr_at_50": 0.65277, - "mrr_at_100": 0.65298, - "mrr_at_1000": 0.65298 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.43443, - "ndcg_at_3": 0.40162, - "ndcg_at_5": 0.42279, - "ndcg_at_10": 0.4719, - "ndcg_at_50": 0.56106, - "ndcg_at_100": 0.57677, - "ndcg_at_1000": 0.57677, - "map_at_1": 0.18376, - "map_at_3": 0.28715, - "map_at_5": 0.33004, - "map_at_10": 0.36877, - "map_at_50": 0.40593, - "map_at_100": 0.4084, - "map_at_1000": 0.4084, - "recall_at_1": 0.18376, - "recall_at_3": 0.33631, - "recall_at_5": 0.43412, - "recall_at_10": 0.55845, - "recall_at_50": 0.8297, - "recall_at_100": 0.90368, - "recall_at_1000": 0.90368, - "precision_at_1": 0.43443, - "precision_at_3": 0.30601, - "precision_at_5": 0.25137, - "precision_at_10": 0.17158, - "precision_at_50": 0.05311, - "precision_at_100": 0.0285, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.43443, - "mrr_at_3": 0.51639, - "mrr_at_5": 0.53811, - "mrr_at_10": 0.55049, - "mrr_at_50": 0.55761, - "mrr_at_100": 0.55817, - "mrr_at_1000": 0.55817 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.47027, - "ndcg_at_3": 0.47155, - "ndcg_at_5": 0.50839, - "ndcg_at_10": 0.57032, - "ndcg_at_50": 0.63838, - "ndcg_at_100": 0.64535, - "ndcg_at_1000": 0.64535, - "map_at_1": 0.25051, - "map_at_3": 0.3798, - "map_at_5": 0.42432, - "map_at_10": 0.46673, - "map_at_50": 0.49439, - "map_at_100": 0.49537, - "map_at_1000": 0.49537, - "recall_at_1": 0.25051, - "recall_at_3": 0.45847, - "recall_at_5": 0.56597, - "recall_at_10": 0.71122, - "recall_at_50": 0.94176, - "recall_at_100": 0.97739, - "recall_at_1000": 0.97739, - "precision_at_1": 0.47027, - "precision_at_3": 0.31441, - "precision_at_5": 0.24649, - "precision_at_10": 0.16649, - "precision_at_50": 0.04497, - "precision_at_100": 0.02319, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.47027, - "mrr_at_3": 0.57072, - "mrr_at_5": 0.58991, - "mrr_at_10": 0.60319, - "mrr_at_50": 0.60841, - "mrr_at_100": 0.60876, - "mrr_at_1000": 0.60876 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.33436, - "ndcg_at_3": 0.38491, - "ndcg_at_5": 0.42701, - "ndcg_at_10": 0.48541, - "ndcg_at_50": 0.54835, - "ndcg_at_100": 0.55498, - "ndcg_at_1000": 0.55498, - "map_at_1": 0.21399, - "map_at_3": 0.32133, - "map_at_5": 0.36013, - "map_at_10": 0.39413, - "map_at_50": 0.41453, - "map_at_100": 0.41527, - "map_at_1000": 0.41527, - "recall_at_1": 0.21399, - "recall_at_3": 0.40786, - "recall_at_5": 0.5143, - "recall_at_10": 0.66196, - "recall_at_50": 0.89136, - "recall_at_100": 0.92848, - "recall_at_1000": 0.92848, - "precision_at_1": 0.33436, - "precision_at_3": 0.24233, - "precision_at_5": 0.18896, - "precision_at_10": 0.12761, - "precision_at_50": 0.03534, - "precision_at_100": 0.01822, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.33436, - "mrr_at_3": 0.43303, - "mrr_at_5": 0.45389, - "mrr_at_10": 0.47028, - "mrr_at_50": 0.47781, - "mrr_at_100": 0.47829, - "mrr_at_1000": 0.47829 - }, - "gpt3": { - "ndcg_at_1": 0.273, - "ndcg_at_3": 0.35736, - "ndcg_at_5": 0.40463, - "ndcg_at_10": 0.44817, - "ndcg_at_50": 0.5114, - "ndcg_at_100": 0.52315, - "ndcg_at_1000": 0.52315, - "map_at_1": 0.22082, - "map_at_3": 0.3159, - "map_at_5": 0.34508, - "map_at_10": 0.36667, - "map_at_50": 0.38446, - "map_at_100": 0.3858, - "map_at_1000": 0.3858, - "recall_at_1": 0.22082, - "recall_at_3": 0.41592, - "recall_at_5": 0.51929, - "recall_at_10": 0.6365, - "recall_at_50": 0.88229, - "recall_at_100": 0.94758, - "recall_at_1000": 0.94758, - "precision_at_1": 0.273, - "precision_at_3": 0.182, - "precision_at_5": 0.14184, - "precision_at_10": 0.09021, - "precision_at_50": 0.02582, - "precision_at_100": 0.01383, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.273, - "mrr_at_3": 0.37587, - "mrr_at_5": 0.40079, - "mrr_at_10": 0.41519, - "mrr_at_50": 0.42611, - "mrr_at_100": 0.42692, - "mrr_at_1000": 0.42692 - }, - "llm-survey": { - "ndcg_at_1": 0.38655, - "ndcg_at_3": 0.36243, - "ndcg_at_5": 0.38103, - "ndcg_at_10": 0.42259, - "ndcg_at_50": 0.49972, - "ndcg_at_100": 0.51759, - "ndcg_at_1000": 0.51759, - "map_at_1": 0.1752, - "map_at_3": 0.27361, - "map_at_5": 0.30564, - "map_at_10": 0.33715, - "map_at_50": 0.36353, - "map_at_100": 0.36601, - "map_at_1000": 0.36601, - "recall_at_1": 0.1752, - "recall_at_3": 0.32576, - "recall_at_5": 0.3982, - "recall_at_10": 0.50455, - "recall_at_50": 0.76675, - "recall_at_100": 0.85711, - "recall_at_1000": 0.85711, - "precision_at_1": 0.38655, - "precision_at_3": 0.26517, - "precision_at_5": 0.20672, - "precision_at_10": 0.13641, - "precision_at_50": 0.04185, - "precision_at_100": 0.02283, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.38655, - "mrr_at_3": 0.46265, - "mrr_at_5": 0.4782, - "mrr_at_10": 0.48661, - "mrr_at_50": 0.49528, - "mrr_at_100": 0.49613, - "mrr_at_1000": 0.49613 - }, - "gemini": { - "ndcg_at_1": 0.36546, - "ndcg_at_3": 0.464, - "ndcg_at_5": 0.49355, - "ndcg_at_10": 0.52654, - "ndcg_at_50": 0.57353, - "ndcg_at_100": 0.58064, - "ndcg_at_1000": 0.58064, - "map_at_1": 0.36546, - "map_at_3": 0.43976, - "map_at_5": 0.45602, - "map_at_10": 0.46995, - "map_at_50": 0.48078, - "map_at_100": 0.48139, - "map_at_1000": 0.48139, - "recall_at_1": 0.36546, - "recall_at_3": 0.53414, - "recall_at_5": 0.60643, - "recall_at_10": 0.70683, - "recall_at_50": 0.91165, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.36546, - "precision_at_3": 0.17805, - "precision_at_5": 0.12129, - "precision_at_10": 0.07068, - "precision_at_50": 0.01823, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.36948, - "mrr_at_3": 0.44177, - "mrr_at_5": 0.45803, - "mrr_at_10": 0.47201, - "mrr_at_50": 0.48283, - "mrr_at_100": 0.48345, - "mrr_at_1000": 0.48345 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.41699, - "ndcg_at_3": 0.37262, - "ndcg_at_5": 0.37447, - "ndcg_at_10": 0.3899, - "ndcg_at_50": 0.41758, - "ndcg_at_100": 0.42096, - "ndcg_at_1000": 0.42096, - "map_at_1": 0.1789, - "map_at_3": 0.26047, - "map_at_5": 0.29426, - "map_at_10": 0.32304, - "map_at_50": 0.33758, - "map_at_100": 0.33808, - "map_at_1000": 0.33808, - "recall_at_1": 0.1789, - "recall_at_3": 0.29056, - "recall_at_5": 0.35111, - "recall_at_10": 0.41551, - "recall_at_50": 0.49473, - "recall_at_100": 0.51166, - "recall_at_1000": 0.51166, - "precision_at_1": 0.41699, - "precision_at_3": 0.27744, - "precision_at_5": 0.21866, - "precision_at_10": 0.1417, - "precision_at_50": 0.03477, - "precision_at_100": 0.01777, - "precision_at_1000": 0.00178, - "mrr_at_1": 0.41699, - "mrr_at_3": 0.46622, - "mrr_at_5": 0.4753, - "mrr_at_10": 0.47949, - "mrr_at_50": 0.48171, - "mrr_at_100": 0.48189, - "mrr_at_1000": 0.48189 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.55886, - "ndcg_at_3": 0.54234, - "ndcg_at_5": 0.551, - "ndcg_at_10": 0.5791, - "ndcg_at_50": 0.61919, - "ndcg_at_100": 0.62218, - "ndcg_at_1000": 0.62218, - "map_at_1": 0.24324, - "map_at_3": 0.3778, - "map_at_5": 0.43762, - "map_at_10": 0.49264, - "map_at_50": 0.51689, - "map_at_100": 0.51746, - "map_at_1000": 0.51746, - "recall_at_1": 0.24324, - "recall_at_3": 0.42342, - "recall_at_5": 0.52311, - "recall_at_10": 0.63728, - "recall_at_50": 0.74339, - "recall_at_100": 0.75702, - "recall_at_1000": 0.75702, - "precision_at_1": 0.55886, - "precision_at_3": 0.41243, - "precision_at_5": 0.33866, - "precision_at_10": 0.23061, - "precision_at_50": 0.05658, - "precision_at_100": 0.02869, - "precision_at_1000": 0.00287, - "mrr_at_1": 0.55886, - "mrr_at_3": 0.63383, - "mrr_at_5": 0.64551, - "mrr_at_10": 0.65208, - "mrr_at_50": 0.65376, - "mrr_at_100": 0.65387, - "mrr_at_1000": 0.65387 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.67748, - "ndcg_at_3": 0.63367, - "ndcg_at_5": 0.61678, - "ndcg_at_10": 0.63966, - "ndcg_at_50": 0.70591, - "ndcg_at_100": 0.71077, - "ndcg_at_1000": 0.71077, - "map_at_1": 0.18444, - "map_at_3": 0.35237, - "map_at_5": 0.43827, - "map_at_10": 0.52921, - "map_at_50": 0.57322, - "map_at_100": 0.57429, - "map_at_1000": 0.57429, - "recall_at_1": 0.18444, - "recall_at_3": 0.38908, - "recall_at_5": 0.51073, - "recall_at_10": 0.67124, - "recall_at_50": 0.83512, - "recall_at_100": 0.85534, - "recall_at_1000": 0.85534, - "precision_at_1": 0.67748, - "precision_at_3": 0.56116, - "precision_at_5": 0.47599, - "precision_at_10": 0.33735, - "precision_at_50": 0.08635, - "precision_at_100": 0.04396, - "precision_at_1000": 0.0044, - "mrr_at_1": 0.67732, - "mrr_at_3": 0.74893, - "mrr_at_5": 0.75805, - "mrr_at_10": 0.76283, - "mrr_at_50": 0.76479, - "mrr_at_100": 0.76491, - "mrr_at_1000": 0.76491 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.52431, - "ndcg_at_3": 0.48874, - "ndcg_at_5": 0.50878, - "ndcg_at_10": 0.55737, - "ndcg_at_50": 0.60181, - "ndcg_at_100": 0.6056, - "ndcg_at_1000": 0.6056, - "map_at_1": 0.23194, - "map_at_3": 0.36198, - "map_at_5": 0.40995, - "map_at_10": 0.45466, - "map_at_50": 0.47507, - "map_at_100": 0.47566, - "map_at_1000": 0.47566, - "recall_at_1": 0.23194, - "recall_at_3": 0.41852, - "recall_at_5": 0.51989, - "recall_at_10": 0.64973, - "recall_at_50": 0.78515, - "recall_at_100": 0.80317, - "recall_at_1000": 0.80317, - "precision_at_1": 0.52431, - "precision_at_3": 0.36516, - "precision_at_5": 0.28834, - "precision_at_10": 0.19074, - "precision_at_50": 0.0467, - "precision_at_100": 0.0238, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.52431, - "mrr_at_3": 0.60769, - "mrr_at_5": 0.62416, - "mrr_at_10": 0.63291, - "mrr_at_50": 0.63638, - "mrr_at_100": 0.63652, - "mrr_at_1000": 0.63652 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.49842, - "ndcg_at_3": 0.51143, - "ndcg_at_5": 0.52659, - "ndcg_at_10": 0.54971, - "ndcg_at_50": 0.57496, - "ndcg_at_100": 0.57764, - "ndcg_at_1000": 0.57764, - "map_at_1": 0.31527, - "map_at_3": 0.43443, - "map_at_5": 0.46785, - "map_at_10": 0.49367, - "map_at_50": 0.5058, - "map_at_100": 0.50612, - "map_at_1000": 0.50612, - "recall_at_1": 0.31527, - "recall_at_3": 0.48561, - "recall_at_5": 0.55374, - "recall_at_10": 0.62213, - "recall_at_50": 0.70316, - "recall_at_100": 0.71811, - "recall_at_1000": 0.71811, - "precision_at_1": 0.49842, - "precision_at_3": 0.31314, - "precision_at_5": 0.23155, - "precision_at_10": 0.14158, - "precision_at_50": 0.03316, - "precision_at_100": 0.0168, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.49842, - "mrr_at_3": 0.5571, - "mrr_at_5": 0.56577, - "mrr_at_10": 0.56978, - "mrr_at_50": 0.57221, - "mrr_at_100": 0.5724, - "mrr_at_1000": 0.5724 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.71917, - "ndcg_at_3": 0.65618, - "ndcg_at_5": 0.66597, - "ndcg_at_10": 0.68715, - "ndcg_at_50": 0.7049, - "ndcg_at_100": 0.70611, - "ndcg_at_1000": 0.70611, - "map_at_1": 0.42223, - "map_at_3": 0.55965, - "map_at_5": 0.5961, - "map_at_10": 0.61897, - "map_at_50": 0.62762, - "map_at_100": 0.62779, - "map_at_1000": 0.62779, - "recall_at_1": 0.42223, - "recall_at_3": 0.59596, - "recall_at_5": 0.66077, - "recall_at_10": 0.72057, - "recall_at_50": 0.77338, - "recall_at_100": 0.779, - "recall_at_1000": 0.779, - "precision_at_1": 0.71917, - "precision_at_3": 0.40687, - "precision_at_5": 0.29056, - "precision_at_10": 0.16763, - "precision_at_50": 0.0371, - "precision_at_100": 0.0187, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.71917, - "mrr_at_3": 0.76404, - "mrr_at_5": 0.77006, - "mrr_at_10": 0.77326, - "mrr_at_50": 0.77459, - "mrr_at_100": 0.77465, - "mrr_at_1000": 0.77465 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.50376, - "ndcg_at_3": 0.46247, - "ndcg_at_5": 0.47568, - "ndcg_at_10": 0.50759, - "ndcg_at_50": 0.5484, - "ndcg_at_100": 0.55208, - "ndcg_at_1000": 0.55208, - "map_at_1": 0.20706, - "map_at_3": 0.32269, - "map_at_5": 0.37153, - "map_at_10": 0.40989, - "map_at_50": 0.42885, - "map_at_100": 0.42939, - "map_at_1000": 0.42939, - "recall_at_1": 0.20706, - "recall_at_3": 0.37649, - "recall_at_5": 0.47519, - "recall_at_10": 0.57008, - "recall_at_50": 0.695, - "recall_at_100": 0.71345, - "recall_at_1000": 0.71345, - "precision_at_1": 0.50376, - "precision_at_3": 0.35394, - "precision_at_5": 0.28261, - "precision_at_10": 0.18151, - "precision_at_50": 0.04427, - "precision_at_100": 0.02252, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.50376, - "mrr_at_3": 0.58733, - "mrr_at_5": 0.60099, - "mrr_at_10": 0.60582, - "mrr_at_50": 0.60909, - "mrr_at_100": 0.60927, - "mrr_at_1000": 0.60927 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.57938, - "ndcg_at_3": 0.54259, - "ndcg_at_5": 0.54742, - "ndcg_at_10": 0.57675, - "ndcg_at_50": 0.6124, - "ndcg_at_100": 0.61457, - "ndcg_at_1000": 0.61457, - "map_at_1": 0.27562, - "map_at_3": 0.39167, - "map_at_5": 0.43907, - "map_at_10": 0.48142, - "map_at_50": 0.50044, - "map_at_100": 0.50086, - "map_at_1000": 0.50086, - "recall_at_1": 0.27562, - "recall_at_3": 0.44402, - "recall_at_5": 0.53277, - "recall_at_10": 0.63315, - "recall_at_50": 0.73145, - "recall_at_100": 0.74055, - "recall_at_1000": 0.74055, - "precision_at_1": 0.57938, - "precision_at_3": 0.38469, - "precision_at_5": 0.30299, - "precision_at_10": 0.1983, - "precision_at_50": 0.04806, - "precision_at_100": 0.02435, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.57938, - "mrr_at_3": 0.65837, - "mrr_at_5": 0.67087, - "mrr_at_10": 0.67604, - "mrr_at_50": 0.67823, - "mrr_at_100": 0.67828, - "mrr_at_1000": 0.67828 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.64162, - "ndcg_at_3": 0.591, - "ndcg_at_5": 0.59662, - "ndcg_at_10": 0.65272, - "ndcg_at_50": 0.71249, - "ndcg_at_100": 0.71644, - "ndcg_at_1000": 0.71644, - "map_at_1": 0.20714, - "map_at_3": 0.38444, - "map_at_5": 0.46455, - "map_at_10": 0.54, - "map_at_50": 0.57256, - "map_at_100": 0.57331, - "map_at_1000": 0.57331, - "recall_at_1": 0.20714, - "recall_at_3": 0.43788, - "recall_at_5": 0.56229, - "recall_at_10": 0.7315, - "recall_at_50": 0.9013, - "recall_at_100": 0.91888, - "recall_at_1000": 0.91888, - "precision_at_1": 0.64162, - "precision_at_3": 0.50385, - "precision_at_5": 0.41618, - "precision_at_10": 0.28092, - "precision_at_50": 0.0696, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.64162, - "mrr_at_3": 0.73218, - "mrr_at_5": 0.74013, - "mrr_at_10": 0.74529, - "mrr_at_50": 0.74884, - "mrr_at_100": 0.74892, - "mrr_at_1000": 0.74892 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.6967, - "ndcg_at_3": 0.6236, - "ndcg_at_5": 0.61811, - "ndcg_at_10": 0.66819, - "ndcg_at_50": 0.73136, - "ndcg_at_100": 0.73404, - "ndcg_at_1000": 0.73404, - "map_at_1": 0.20426, - "map_at_3": 0.37911, - "map_at_5": 0.46552, - "map_at_10": 0.55785, - "map_at_50": 0.59669, - "map_at_100": 0.59723, - "map_at_1000": 0.59723, - "recall_at_1": 0.20426, - "recall_at_3": 0.42041, - "recall_at_5": 0.54976, - "recall_at_10": 0.72112, - "recall_at_50": 0.89043, - "recall_at_100": 0.9019, - "recall_at_1000": 0.9019, - "precision_at_1": 0.6967, - "precision_at_3": 0.53654, - "precision_at_5": 0.45225, - "precision_at_10": 0.31802, - "precision_at_50": 0.07898, - "precision_at_100": 0.03988, - "precision_at_1000": 0.00399, - "mrr_at_1": 0.6967, - "mrr_at_3": 0.76226, - "mrr_at_5": 0.77217, - "mrr_at_10": 0.77608, - "mrr_at_50": 0.77786, - "mrr_at_100": 0.7779, - "mrr_at_1000": 0.7779 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71893, - "ndcg_at_3": 0.66412, - "ndcg_at_5": 0.64833, - "ndcg_at_10": 0.68528, - "ndcg_at_50": 0.73325, - "ndcg_at_100": 0.73661, - "ndcg_at_1000": 0.73661, - "map_at_1": 0.21234, - "map_at_3": 0.41148, - "map_at_5": 0.49642, - "map_at_10": 0.58096, - "map_at_50": 0.61173, - "map_at_100": 0.61233, - "map_at_1000": 0.61233, - "recall_at_1": 0.21234, - "recall_at_3": 0.45551, - "recall_at_5": 0.57496, - "recall_at_10": 0.73008, - "recall_at_50": 0.86017, - "recall_at_100": 0.87577, - "recall_at_1000": 0.87577, - "precision_at_1": 0.71893, - "precision_at_3": 0.57791, - "precision_at_5": 0.47041, - "precision_at_10": 0.32101, - "precision_at_50": 0.07568, - "precision_at_100": 0.03828, - "precision_at_1000": 0.00383, - "mrr_at_1": 0.71893, - "mrr_at_3": 0.78156, - "mrr_at_5": 0.78718, - "mrr_at_10": 0.79082, - "mrr_at_50": 0.7932, - "mrr_at_100": 0.79327, - "mrr_at_1000": 0.79327 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.73451, - "ndcg_at_3": 0.66821, - "ndcg_at_5": 0.67477, - "ndcg_at_10": 0.72299, - "ndcg_at_50": 0.77688, - "ndcg_at_100": 0.77923, - "ndcg_at_1000": 0.77923, - "map_at_1": 0.25026, - "map_at_3": 0.4593, - "map_at_5": 0.54397, - "map_at_10": 0.61725, - "map_at_50": 0.64845, - "map_at_100": 0.64897, - "map_at_1000": 0.64897, - "recall_at_1": 0.25026, - "recall_at_3": 0.50402, - "recall_at_5": 0.63526, - "recall_at_10": 0.78184, - "recall_at_50": 0.93467, - "recall_at_100": 0.94429, - "recall_at_1000": 0.94429, - "precision_at_1": 0.73451, - "precision_at_3": 0.56637, - "precision_at_5": 0.45959, - "precision_at_10": 0.30295, - "precision_at_50": 0.07274, - "precision_at_100": 0.03673, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.73451, - "mrr_at_3": 0.80383, - "mrr_at_5": 0.81342, - "mrr_at_10": 0.81688, - "mrr_at_50": 0.81902, - "mrr_at_100": 0.81902, - "mrr_at_1000": 0.81902 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.81522, - "ndcg_at_3": 0.73279, - "ndcg_at_5": 0.72474, - "ndcg_at_10": 0.77287, - "ndcg_at_50": 0.82645, - "ndcg_at_100": 0.82815, - "ndcg_at_1000": 0.82815, - "map_at_1": 0.2974, - "map_at_3": 0.50076, - "map_at_5": 0.58811, - "map_at_10": 0.67006, - "map_at_50": 0.70623, - "map_at_100": 0.70663, - "map_at_1000": 0.70663, - "recall_at_1": 0.2974, - "recall_at_3": 0.53706, - "recall_at_5": 0.66688, - "recall_at_10": 0.81925, - "recall_at_50": 0.95242, - "recall_at_100": 0.95886, - "recall_at_1000": 0.95886, - "precision_at_1": 0.81522, - "precision_at_3": 0.59692, - "precision_at_5": 0.48043, - "precision_at_10": 0.31984, - "precision_at_50": 0.07723, - "precision_at_100": 0.03891, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.81522, - "mrr_at_3": 0.8673, - "mrr_at_5": 0.87274, - "mrr_at_10": 0.87478, - "mrr_at_50": 0.87571, - "mrr_at_100": 0.87571, - "mrr_at_1000": 0.87571 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.61905, - "ndcg_at_3": 0.58934, - "ndcg_at_5": 0.60128, - "ndcg_at_10": 0.64036, - "ndcg_at_50": 0.68906, - "ndcg_at_100": 0.69338, - "ndcg_at_1000": 0.69338, - "map_at_1": 0.26751, - "map_at_3": 0.43894, - "map_at_5": 0.49924, - "map_at_10": 0.54666, - "map_at_50": 0.57167, - "map_at_100": 0.57244, - "map_at_1000": 0.57244, - "recall_at_1": 0.26751, - "recall_at_3": 0.49417, - "recall_at_5": 0.60374, - "recall_at_10": 0.70658, - "recall_at_50": 0.8518, - "recall_at_100": 0.87225, - "recall_at_1000": 0.87225, - "precision_at_1": 0.61905, - "precision_at_3": 0.4494, - "precision_at_5": 0.35119, - "precision_at_10": 0.22173, - "precision_at_50": 0.05452, - "precision_at_100": 0.02777, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.61905, - "mrr_at_3": 0.70585, - "mrr_at_5": 0.71672, - "mrr_at_10": 0.72018, - "mrr_at_50": 0.72284, - "mrr_at_100": 0.72297, - "mrr_at_1000": 0.72297 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.70423, - "ndcg_at_3": 0.63736, - "ndcg_at_5": 0.65253, - "ndcg_at_10": 0.70505, - "ndcg_at_50": 0.7472, - "ndcg_at_100": 0.74987, - "ndcg_at_1000": 0.74987, - "map_at_1": 0.34351, - "map_at_3": 0.50831, - "map_at_5": 0.55951, - "map_at_10": 0.60505, - "map_at_50": 0.62701, - "map_at_100": 0.62743, - "map_at_1000": 0.62743, - "recall_at_1": 0.34351, - "recall_at_3": 0.56018, - "recall_at_5": 0.66029, - "recall_at_10": 0.78456, - "recall_at_50": 0.91172, - "recall_at_100": 0.92486, - "recall_at_1000": 0.92486, - "precision_at_1": 0.70423, - "precision_at_3": 0.45352, - "precision_at_5": 0.33521, - "precision_at_10": 0.21239, - "precision_at_50": 0.0502, - "precision_at_100": 0.02538, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.70423, - "mrr_at_3": 0.77418, - "mrr_at_5": 0.78502, - "mrr_at_10": 0.78983, - "mrr_at_50": 0.79194, - "mrr_at_100": 0.79202, - "mrr_at_1000": 0.79202 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64146, - "ndcg_at_3": 0.59151, - "ndcg_at_5": 0.61194, - "ndcg_at_10": 0.65902, - "ndcg_at_50": 0.70521, - "ndcg_at_100": 0.70845, - "ndcg_at_1000": 0.70845, - "map_at_1": 0.31251, - "map_at_3": 0.46821, - "map_at_5": 0.51967, - "map_at_10": 0.55746, - "map_at_50": 0.57914, - "map_at_100": 0.57966, - "map_at_1000": 0.57966, - "recall_at_1": 0.31251, - "recall_at_3": 0.53321, - "recall_at_5": 0.63179, - "recall_at_10": 0.74463, - "recall_at_50": 0.88216, - "recall_at_100": 0.89878, - "recall_at_1000": 0.89878, - "precision_at_1": 0.64146, - "precision_at_3": 0.42017, - "precision_at_5": 0.31653, - "precision_at_10": 0.19664, - "precision_at_50": 0.04857, - "precision_at_100": 0.02462, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.64146, - "mrr_at_3": 0.72689, - "mrr_at_5": 0.73613, - "mrr_at_10": 0.74111, - "mrr_at_50": 0.74378, - "mrr_at_100": 0.7439, - "mrr_at_1000": 0.7439 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.64785, - "ndcg_at_3": 0.61094, - "ndcg_at_5": 0.63059, - "ndcg_at_10": 0.67401, - "ndcg_at_50": 0.71801, - "ndcg_at_100": 0.72052, - "ndcg_at_1000": 0.72052, - "map_at_1": 0.34438, - "map_at_3": 0.49576, - "map_at_5": 0.5442, - "map_at_10": 0.57914, - "map_at_50": 0.59915, - "map_at_100": 0.59964, - "map_at_1000": 0.59964, - "recall_at_1": 0.34438, - "recall_at_3": 0.55238, - "recall_at_5": 0.64685, - "recall_at_10": 0.74921, - "recall_at_50": 0.88849, - "recall_at_100": 0.89852, - "recall_at_1000": 0.89852, - "precision_at_1": 0.64785, - "precision_at_3": 0.41398, - "precision_at_5": 0.31613, - "precision_at_10": 0.19409, - "precision_at_50": 0.04737, - "precision_at_100": 0.02406, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.64785, - "mrr_at_3": 0.73432, - "mrr_at_5": 0.74574, - "mrr_at_10": 0.75053, - "mrr_at_50": 0.75216, - "mrr_at_100": 0.75216, - "mrr_at_1000": 0.75216 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.57923, - "ndcg_at_3": 0.51823, - "ndcg_at_5": 0.53706, - "ndcg_at_10": 0.58879, - "ndcg_at_50": 0.65552, - "ndcg_at_100": 0.66229, - "ndcg_at_1000": 0.66229, - "map_at_1": 0.24724, - "map_at_3": 0.37751, - "map_at_5": 0.43281, - "map_at_10": 0.48134, - "map_at_50": 0.51286, - "map_at_100": 0.51395, - "map_at_1000": 0.51395, - "recall_at_1": 0.24724, - "recall_at_3": 0.42622, - "recall_at_5": 0.532, - "recall_at_10": 0.66538, - "recall_at_50": 0.87101, - "recall_at_100": 0.90368, - "recall_at_1000": 0.90368, - "precision_at_1": 0.57923, - "precision_at_3": 0.3898, - "precision_at_5": 0.31694, - "precision_at_10": 0.20956, - "precision_at_50": 0.05546, - "precision_at_100": 0.0285, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.57923, - "mrr_at_3": 0.66257, - "mrr_at_5": 0.67486, - "mrr_at_10": 0.68227, - "mrr_at_50": 0.68597, - "mrr_at_100": 0.68617, - "mrr_at_1000": 0.68617 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.54324, - "ndcg_at_3": 0.55766, - "ndcg_at_5": 0.58331, - "ndcg_at_10": 0.64743, - "ndcg_at_50": 0.69787, - "ndcg_at_100": 0.70269, - "ndcg_at_1000": 0.70269, - "map_at_1": 0.30003, - "map_at_3": 0.46065, - "map_at_5": 0.50497, - "map_at_10": 0.55041, - "map_at_50": 0.57184, - "map_at_100": 0.5727, - "map_at_1000": 0.5727, - "recall_at_1": 0.30003, - "recall_at_3": 0.53854, - "recall_at_5": 0.6325, - "recall_at_10": 0.78759, - "recall_at_50": 0.95545, - "recall_at_100": 0.97739, - "recall_at_1000": 0.97739, - "precision_at_1": 0.54324, - "precision_at_3": 0.37748, - "precision_at_5": 0.28054, - "precision_at_10": 0.18351, - "precision_at_50": 0.04519, - "precision_at_100": 0.02319, - "precision_at_1000": 0.00232, - "mrr_at_1": 0.54324, - "mrr_at_3": 0.64414, - "mrr_at_5": 0.6555, - "mrr_at_10": 0.66715, - "mrr_at_50": 0.67119, - "mrr_at_100": 0.67131, - "mrr_at_1000": 0.67131 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.4908, - "ndcg_at_3": 0.51957, - "ndcg_at_5": 0.56923, - "ndcg_at_10": 0.62181, - "ndcg_at_50": 0.65752, - "ndcg_at_100": 0.65996, - "ndcg_at_1000": 0.65996, - "map_at_1": 0.31491, - "map_at_3": 0.44112, - "map_at_5": 0.49113, - "map_at_10": 0.52939, - "map_at_50": 0.54175, - "map_at_100": 0.54202, - "map_at_1000": 0.54202, - "recall_at_1": 0.31491, - "recall_at_3": 0.53257, - "recall_at_5": 0.65661, - "recall_at_10": 0.78228, - "recall_at_50": 0.91467, - "recall_at_100": 0.92848, - "recall_at_1000": 0.92848, - "precision_at_1": 0.4908, - "precision_at_3": 0.31493, - "precision_at_5": 0.24724, - "precision_at_10": 0.15613, - "precision_at_50": 0.03607, - "precision_at_100": 0.01822, - "precision_at_1000": 0.00182, - "mrr_at_1": 0.4908, - "mrr_at_3": 0.59356, - "mrr_at_5": 0.61212, - "mrr_at_10": 0.61979, - "mrr_at_50": 0.62416, - "mrr_at_100": 0.62431, - "mrr_at_1000": 0.62431 - }, - "gpt3": { - "ndcg_at_1": 0.4184, - "ndcg_at_3": 0.51103, - "ndcg_at_5": 0.55072, - "ndcg_at_10": 0.59139, - "ndcg_at_50": 0.62657, - "ndcg_at_100": 0.63387, - "ndcg_at_1000": 0.63387, - "map_at_1": 0.32888, - "map_at_3": 0.45813, - "map_at_5": 0.48698, - "map_at_10": 0.50929, - "map_at_50": 0.51974, - "map_at_100": 0.52049, - "map_at_1000": 0.52049, - "recall_at_1": 0.32888, - "recall_at_3": 0.57789, - "recall_at_5": 0.66098, - "recall_at_10": 0.76682, - "recall_at_50": 0.90455, - "recall_at_100": 0.94758, - "recall_at_1000": 0.94758, - "precision_at_1": 0.4184, - "precision_at_3": 0.25816, - "precision_at_5": 0.18576, - "precision_at_10": 0.11187, - "precision_at_50": 0.02659, - "precision_at_100": 0.01383, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.4184, - "mrr_at_3": 0.54006, - "mrr_at_5": 0.55608, - "mrr_at_10": 0.56704, - "mrr_at_50": 0.57249, - "mrr_at_100": 0.57297, - "mrr_at_1000": 0.57297 - }, - "llm-survey": { - "ndcg_at_1": 0.53501, - "ndcg_at_3": 0.49847, - "ndcg_at_5": 0.52403, - "ndcg_at_10": 0.57512, - "ndcg_at_50": 0.62098, - "ndcg_at_100": 0.62781, - "ndcg_at_1000": 0.62781, - "map_at_1": 0.25018, - "map_at_3": 0.39283, - "map_at_5": 0.43947, - "map_at_10": 0.4856, - "map_at_50": 0.50422, - "map_at_100": 0.50506, - "map_at_1000": 0.50506, - "recall_at_1": 0.25018, - "recall_at_3": 0.443, - "recall_at_5": 0.53958, - "recall_at_10": 0.66525, - "recall_at_50": 0.82068, - "recall_at_100": 0.85711, - "recall_at_1000": 0.85711, - "precision_at_1": 0.53501, - "precision_at_3": 0.36041, - "precision_at_5": 0.28067, - "precision_at_10": 0.18207, - "precision_at_50": 0.04443, - "precision_at_100": 0.02283, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.53501, - "mrr_at_3": 0.60831, - "mrr_at_5": 0.62456, - "mrr_at_10": 0.63247, - "mrr_at_50": 0.63643, - "mrr_at_100": 0.63689, - "mrr_at_1000": 0.63689 - }, - "gemini": { - "ndcg_at_1": 0.44177, - "ndcg_at_3": 0.58424, - "ndcg_at_5": 0.60532, - "ndcg_at_10": 0.62524, - "ndcg_at_50": 0.65554, - "ndcg_at_100": 0.66007, - "ndcg_at_1000": 0.66007, - "map_at_1": 0.44177, - "map_at_3": 0.54886, - "map_at_5": 0.56031, - "map_at_10": 0.56879, - "map_at_50": 0.57623, - "map_at_100": 0.57662, - "map_at_1000": 0.57662, - "recall_at_1": 0.44177, - "recall_at_3": 0.68675, - "recall_at_5": 0.73896, - "recall_at_10": 0.7992, - "recall_at_50": 0.92771, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.44177, - "precision_at_3": 0.22892, - "precision_at_5": 0.14779, - "precision_at_10": 0.07992, - "precision_at_50": 0.01855, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.44177, - "mrr_at_3": 0.54886, - "mrr_at_5": 0.56031, - "mrr_at_10": 0.56885, - "mrr_at_50": 0.57633, - "mrr_at_100": 0.57673, - "mrr_at_1000": 0.57673 - } - } - } - } - } - }, - "[bge-base-en-v1.5](https://huggingface.co/BAAI/bge-base-en-v1.5)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.21655, - "ndcg_at_3": 0.19798, - "ndcg_at_5": 0.20207, - "ndcg_at_10": 0.21776, - "ndcg_at_50": 0.26199, - "ndcg_at_100": 0.27217, - "ndcg_at_1000": 0.27217, - "map_at_1": 0.07463, - "map_at_3": 0.11991, - "map_at_5": 0.14103, - "map_at_10": 0.16113, - "map_at_50": 0.17831, - "map_at_100": 0.17981, - "map_at_1000": 0.17981, - "recall_at_1": 0.07463, - "recall_at_3": 0.14765, - "recall_at_5": 0.19271, - "recall_at_10": 0.25163, - "recall_at_50": 0.38847, - "recall_at_100": 0.43533, - "recall_at_1000": 0.43533, - "precision_at_1": 0.21655, - "precision_at_3": 0.16084, - "precision_at_5": 0.13404, - "precision_at_10": 0.09289, - "precision_at_50": 0.0287, - "precision_at_100": 0.01571, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.2171, - "mrr_at_3": 0.26661, - "mrr_at_5": 0.27747, - "mrr_at_10": 0.28359, - "mrr_at_50": 0.28901, - "mrr_at_100": 0.28951, - "mrr_at_1000": 0.28951 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.41202, - "ndcg_at_3": 0.4023, - "ndcg_at_5": 0.40828, - "ndcg_at_10": 0.44123, - "ndcg_at_50": 0.50482, - "ndcg_at_100": 0.51883, - "ndcg_at_1000": 0.51883, - "map_at_1": 0.16905, - "map_at_3": 0.26717, - "map_at_5": 0.30881, - "map_at_10": 0.35385, - "map_at_50": 0.38321, - "map_at_100": 0.3857, - "map_at_1000": 0.3857, - "recall_at_1": 0.16905, - "recall_at_3": 0.31066, - "recall_at_5": 0.38879, - "recall_at_10": 0.50635, - "recall_at_50": 0.68751, - "recall_at_100": 0.75003, - "recall_at_1000": 0.75003, - "precision_at_1": 0.41202, - "precision_at_3": 0.31227, - "precision_at_5": 0.25688, - "precision_at_10": 0.18302, - "precision_at_50": 0.05299, - "precision_at_100": 0.02851, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.41202, - "mrr_at_3": 0.48947, - "mrr_at_5": 0.50304, - "mrr_at_10": 0.51454, - "mrr_at_50": 0.51994, - "mrr_at_100": 0.52035, - "mrr_at_1000": 0.52035 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.47413, - "ndcg_at_3": 0.45548, - "ndcg_at_5": 0.45123, - "ndcg_at_10": 0.48112, - "ndcg_at_50": 0.57485, - "ndcg_at_100": 0.59281, - "ndcg_at_1000": 0.59281, - "map_at_1": 0.11897, - "map_at_3": 0.23534, - "map_at_5": 0.2987, - "map_at_10": 0.37142, - "map_at_50": 0.42173, - "map_at_100": 0.42537, - "map_at_1000": 0.42537, - "recall_at_1": 0.11897, - "recall_at_3": 0.2734, - "recall_at_5": 0.37616, - "recall_at_10": 0.52853, - "recall_at_50": 0.77109, - "recall_at_100": 0.84329, - "recall_at_1000": 0.84329, - "precision_at_1": 0.47413, - "precision_at_3": 0.4122, - "precision_at_5": 0.36262, - "precision_at_10": 0.27015, - "precision_at_50": 0.08104, - "precision_at_100": 0.04356, - "precision_at_1000": 0.00436, - "mrr_at_1": 0.47413, - "mrr_at_3": 0.56116, - "mrr_at_5": 0.57696, - "mrr_at_10": 0.58723, - "mrr_at_50": 0.5925, - "mrr_at_100": 0.59292, - "mrr_at_1000": 0.59292 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.39953, - "ndcg_at_3": 0.3945, - "ndcg_at_5": 0.41389, - "ndcg_at_10": 0.46256, - "ndcg_at_50": 0.5233, - "ndcg_at_100": 0.53247, - "ndcg_at_1000": 0.53247, - "map_at_1": 0.16242, - "map_at_3": 0.27936, - "map_at_5": 0.3221, - "map_at_10": 0.36364, - "map_at_50": 0.38697, - "map_at_100": 0.38839, - "map_at_1000": 0.38839, - "recall_at_1": 0.16242, - "recall_at_3": 0.33797, - "recall_at_5": 0.431, - "recall_at_10": 0.56057, - "recall_at_50": 0.76045, - "recall_at_100": 0.80427, - "recall_at_1000": 0.80427, - "precision_at_1": 0.39953, - "precision_at_3": 0.314, - "precision_at_5": 0.25167, - "precision_at_10": 0.17059, - "precision_at_50": 0.04547, - "precision_at_100": 0.02384, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.39953, - "mrr_at_3": 0.49453, - "mrr_at_5": 0.5114, - "mrr_at_10": 0.52339, - "mrr_at_50": 0.52979, - "mrr_at_100": 0.53006, - "mrr_at_1000": 0.53006 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.3142, - "ndcg_at_3": 0.33984, - "ndcg_at_5": 0.36094, - "ndcg_at_10": 0.39019, - "ndcg_at_50": 0.44214, - "ndcg_at_100": 0.45202, - "ndcg_at_1000": 0.45202, - "map_at_1": 0.17574, - "map_at_3": 0.27064, - "map_at_5": 0.30213, - "map_at_10": 0.32598, - "map_at_50": 0.34431, - "map_at_100": 0.34571, - "map_at_1000": 0.34571, - "recall_at_1": 0.17574, - "recall_at_3": 0.32695, - "recall_at_5": 0.40221, - "recall_at_10": 0.48565, - "recall_at_50": 0.67107, - "recall_at_100": 0.72166, - "recall_at_1000": 0.72166, - "precision_at_1": 0.3142, - "precision_at_3": 0.22755, - "precision_at_5": 0.17741, - "precision_at_10": 0.11375, - "precision_at_50": 0.03194, - "precision_at_100": 0.01704, - "precision_at_1000": 0.0017, - "mrr_at_1": 0.31356, - "mrr_at_3": 0.3836, - "mrr_at_5": 0.39562, - "mrr_at_10": 0.40404, - "mrr_at_50": 0.41079, - "mrr_at_100": 0.4113, - "mrr_at_1000": 0.4113 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.49334, - "ndcg_at_3": 0.47076, - "ndcg_at_5": 0.48557, - "ndcg_at_10": 0.51496, - "ndcg_at_50": 0.555, - "ndcg_at_100": 0.5642, - "ndcg_at_1000": 0.5642, - "map_at_1": 0.27814, - "map_at_3": 0.38112, - "map_at_5": 0.41217, - "map_at_10": 0.43505, - "map_at_50": 0.44918, - "map_at_100": 0.45049, - "map_at_1000": 0.45049, - "recall_at_1": 0.27814, - "recall_at_3": 0.43656, - "recall_at_5": 0.50427, - "recall_at_10": 0.58416, - "recall_at_50": 0.72123, - "recall_at_100": 0.76624, - "recall_at_1000": 0.76624, - "precision_at_1": 0.49334, - "precision_at_3": 0.30168, - "precision_at_5": 0.22351, - "precision_at_10": 0.13613, - "precision_at_50": 0.03463, - "precision_at_100": 0.01838, - "precision_at_1000": 0.00184, - "mrr_at_1": 0.49334, - "mrr_at_3": 0.569, - "mrr_at_5": 0.58009, - "mrr_at_10": 0.58713, - "mrr_at_50": 0.59201, - "mrr_at_100": 0.59243, - "mrr_at_1000": 0.59243 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.34604, - "ndcg_at_3": 0.32316, - "ndcg_at_5": 0.33863, - "ndcg_at_10": 0.37191, - "ndcg_at_50": 0.43295, - "ndcg_at_100": 0.44499, - "ndcg_at_1000": 0.44499, - "map_at_1": 0.12746, - "map_at_3": 0.20939, - "map_at_5": 0.24768, - "map_at_10": 0.28019, - "map_at_50": 0.30286, - "map_at_100": 0.30457, - "map_at_1000": 0.30457, - "recall_at_1": 0.12746, - "recall_at_3": 0.2574, - "recall_at_5": 0.34526, - "recall_at_10": 0.441, - "recall_at_50": 0.63978, - "recall_at_100": 0.69886, - "recall_at_1000": 0.69886, - "precision_at_1": 0.34604, - "precision_at_3": 0.26324, - "precision_at_5": 0.21883, - "precision_at_10": 0.1465, - "precision_at_50": 0.04156, - "precision_at_100": 0.02214, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.34604, - "mrr_at_3": 0.42731, - "mrr_at_5": 0.44779, - "mrr_at_10": 0.45576, - "mrr_at_50": 0.46218, - "mrr_at_100": 0.46273, - "mrr_at_1000": 0.46273 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.4382, - "ndcg_at_3": 0.40165, - "ndcg_at_5": 0.4097, - "ndcg_at_10": 0.445, - "ndcg_at_50": 0.49597, - "ndcg_at_100": 0.50688, - "ndcg_at_1000": 0.50688, - "map_at_1": 0.18787, - "map_at_3": 0.27198, - "map_at_5": 0.30894, - "map_at_10": 0.34577, - "map_at_50": 0.36803, - "map_at_100": 0.36975, - "map_at_1000": 0.36975, - "recall_at_1": 0.18787, - "recall_at_3": 0.3238, - "recall_at_5": 0.40334, - "recall_at_10": 0.5159, - "recall_at_50": 0.66411, - "recall_at_100": 0.71596, - "recall_at_1000": 0.71596, - "precision_at_1": 0.4382, - "precision_at_3": 0.29272, - "precision_at_5": 0.23855, - "precision_at_10": 0.16339, - "precision_at_50": 0.04467, - "precision_at_100": 0.02372, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.4382, - "mrr_at_3": 0.51992, - "mrr_at_5": 0.53533, - "mrr_at_10": 0.54563, - "mrr_at_50": 0.55005, - "mrr_at_100": 0.5505, - "mrr_at_1000": 0.5505 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.56358, - "ndcg_at_3": 0.51449, - "ndcg_at_5": 0.52335, - "ndcg_at_10": 0.57822, - "ndcg_at_50": 0.64313, - "ndcg_at_100": 0.65917, - "ndcg_at_1000": 0.65917, - "map_at_1": 0.17177, - "map_at_3": 0.32355, - "map_at_5": 0.39979, - "map_at_10": 0.47006, - "map_at_50": 0.50321, - "map_at_100": 0.5058, - "map_at_1000": 0.5058, - "recall_at_1": 0.17177, - "recall_at_3": 0.36891, - "recall_at_5": 0.49373, - "recall_at_10": 0.6594, - "recall_at_50": 0.84448, - "recall_at_100": 0.91684, - "recall_at_1000": 0.91684, - "precision_at_1": 0.56358, - "precision_at_3": 0.44412, - "precision_at_5": 0.37688, - "precision_at_10": 0.25983, - "precision_at_50": 0.06636, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.56358, - "mrr_at_3": 0.6368, - "mrr_at_5": 0.65125, - "mrr_at_10": 0.66068, - "mrr_at_50": 0.66605, - "mrr_at_100": 0.66658, - "mrr_at_1000": 0.66658 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.52252, - "ndcg_at_3": 0.49564, - "ndcg_at_5": 0.49472, - "ndcg_at_10": 0.54724, - "ndcg_at_50": 0.63287, - "ndcg_at_100": 0.64413, - "ndcg_at_1000": 0.64413, - "map_at_1": 0.15271, - "map_at_3": 0.28965, - "map_at_5": 0.35772, - "map_at_10": 0.43902, - "map_at_50": 0.48185, - "map_at_100": 0.48436, - "map_at_1000": 0.48436, - "recall_at_1": 0.15271, - "recall_at_3": 0.33225, - "recall_at_5": 0.44791, - "recall_at_10": 0.61488, - "recall_at_50": 0.85162, - "recall_at_100": 0.89603, - "recall_at_1000": 0.89603, - "precision_at_1": 0.52252, - "precision_at_3": 0.43844, - "precision_at_5": 0.37357, - "precision_at_10": 0.27327, - "precision_at_50": 0.07574, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.52252, - "mrr_at_3": 0.6041, - "mrr_at_5": 0.62392, - "mrr_at_10": 0.63293, - "mrr_at_50": 0.6386, - "mrr_at_100": 0.63869, - "mrr_at_1000": 0.63869 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.59172, - "ndcg_at_3": 0.55603, - "ndcg_at_5": 0.55819, - "ndcg_at_10": 0.59278, - "ndcg_at_50": 0.65741, - "ndcg_at_100": 0.6675, - "ndcg_at_1000": 0.6675, - "map_at_1": 0.17826, - "map_at_3": 0.33913, - "map_at_5": 0.41997, - "map_at_10": 0.49262, - "map_at_50": 0.52655, - "map_at_100": 0.5285, - "map_at_1000": 0.5285, - "recall_at_1": 0.17826, - "recall_at_3": 0.37379, - "recall_at_5": 0.50166, - "recall_at_10": 0.64618, - "recall_at_50": 0.82577, - "recall_at_100": 0.86886, - "recall_at_1000": 0.86886, - "precision_at_1": 0.59172, - "precision_at_3": 0.48817, - "precision_at_5": 0.41598, - "precision_at_10": 0.28462, - "precision_at_50": 0.07302, - "precision_at_100": 0.03811, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.59172, - "mrr_at_3": 0.65483, - "mrr_at_5": 0.66874, - "mrr_at_10": 0.67636, - "mrr_at_50": 0.68112, - "mrr_at_100": 0.68139, - "mrr_at_1000": 0.68139 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.61652, - "ndcg_at_3": 0.58503, - "ndcg_at_5": 0.57873, - "ndcg_at_10": 0.62809, - "ndcg_at_50": 0.70002, - "ndcg_at_100": 0.70934, - "ndcg_at_1000": 0.70934, - "map_at_1": 0.20107, - "map_at_3": 0.38972, - "map_at_5": 0.45557, - "map_at_10": 0.52286, - "map_at_50": 0.55892, - "map_at_100": 0.5609, - "map_at_1000": 0.5609, - "recall_at_1": 0.20107, - "recall_at_3": 0.44311, - "recall_at_5": 0.5429, - "recall_at_10": 0.6891, - "recall_at_50": 0.8974, - "recall_at_100": 0.93553, - "recall_at_1000": 0.93553, - "precision_at_1": 0.61652, - "precision_at_3": 0.50541, - "precision_at_5": 0.39705, - "precision_at_10": 0.26726, - "precision_at_50": 0.06997, - "precision_at_100": 0.03649, - "precision_at_1000": 0.00365, - "mrr_at_1": 0.61652, - "mrr_at_3": 0.70206, - "mrr_at_5": 0.71018, - "mrr_at_10": 0.71853, - "mrr_at_50": 0.72237, - "mrr_at_100": 0.72249, - "mrr_at_1000": 0.72249 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.6413, - "ndcg_at_3": 0.62142, - "ndcg_at_5": 0.61277, - "ndcg_at_10": 0.67065, - "ndcg_at_50": 0.73758, - "ndcg_at_100": 0.74748, - "ndcg_at_1000": 0.74748, - "map_at_1": 0.22992, - "map_at_3": 0.41588, - "map_at_5": 0.49048, - "map_at_10": 0.57, - "map_at_50": 0.60502, - "map_at_100": 0.60718, - "map_at_1000": 0.60718, - "recall_at_1": 0.22992, - "recall_at_3": 0.46677, - "recall_at_5": 0.57606, - "recall_at_10": 0.73859, - "recall_at_50": 0.92083, - "recall_at_100": 0.96113, - "recall_at_1000": 0.96113, - "precision_at_1": 0.6413, - "precision_at_3": 0.52355, - "precision_at_5": 0.41793, - "precision_at_10": 0.29103, - "precision_at_50": 0.07484, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.6413, - "mrr_at_3": 0.72917, - "mrr_at_5": 0.73569, - "mrr_at_10": 0.74337, - "mrr_at_50": 0.74624, - "mrr_at_100": 0.74635, - "mrr_at_1000": 0.74635 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.52083, - "ndcg_at_3": 0.47724, - "ndcg_at_5": 0.49333, - "ndcg_at_10": 0.53911, - "ndcg_at_50": 0.60059, - "ndcg_at_100": 0.61446, - "ndcg_at_1000": 0.61446, - "map_at_1": 0.21687, - "map_at_3": 0.34811, - "map_at_5": 0.40166, - "map_at_10": 0.44813, - "map_at_50": 0.47391, - "map_at_100": 0.47613, - "map_at_1000": 0.47613, - "recall_at_1": 0.21687, - "recall_at_3": 0.39268, - "recall_at_5": 0.49659, - "recall_at_10": 0.61648, - "recall_at_50": 0.80792, - "recall_at_100": 0.87284, - "recall_at_1000": 0.87284, - "precision_at_1": 0.52083, - "precision_at_3": 0.36706, - "precision_at_5": 0.29405, - "precision_at_10": 0.19524, - "precision_at_50": 0.0519, - "precision_at_100": 0.02771, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.52083, - "mrr_at_3": 0.58929, - "mrr_at_5": 0.60357, - "mrr_at_10": 0.61051, - "mrr_at_50": 0.61606, - "mrr_at_100": 0.61672, - "mrr_at_1000": 0.61672 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.58028, - "ndcg_at_3": 0.539, - "ndcg_at_5": 0.56721, - "ndcg_at_10": 0.61632, - "ndcg_at_50": 0.67058, - "ndcg_at_100": 0.68028, - "ndcg_at_1000": 0.68028, - "map_at_1": 0.27926, - "map_at_3": 0.41563, - "map_at_5": 0.47364, - "map_at_10": 0.51542, - "map_at_50": 0.53906, - "map_at_100": 0.54059, - "map_at_1000": 0.54059, - "recall_at_1": 0.27926, - "recall_at_3": 0.48026, - "recall_at_5": 0.59228, - "recall_at_10": 0.70989, - "recall_at_50": 0.88019, - "recall_at_100": 0.92506, - "recall_at_1000": 0.92506, - "precision_at_1": 0.58028, - "precision_at_3": 0.38592, - "precision_at_5": 0.30535, - "precision_at_10": 0.19408, - "precision_at_50": 0.04873, - "precision_at_100": 0.02558, - "precision_at_1000": 0.00256, - "mrr_at_1": 0.58028, - "mrr_at_3": 0.67277, - "mrr_at_5": 0.68164, - "mrr_at_10": 0.68832, - "mrr_at_50": 0.69303, - "mrr_at_100": 0.69333, - "mrr_at_1000": 0.69333 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.55742, - "ndcg_at_3": 0.53381, - "ndcg_at_5": 0.56015, - "ndcg_at_10": 0.61373, - "ndcg_at_50": 0.65895, - "ndcg_at_100": 0.66867, - "ndcg_at_1000": 0.66867, - "map_at_1": 0.26685, - "map_at_3": 0.41946, - "map_at_5": 0.46959, - "map_at_10": 0.5137, - "map_at_50": 0.53233, - "map_at_100": 0.53379, - "map_at_1000": 0.53379, - "recall_at_1": 0.26685, - "recall_at_3": 0.48065, - "recall_at_5": 0.59055, - "recall_at_10": 0.71781, - "recall_at_50": 0.86215, - "recall_at_100": 0.90924, - "recall_at_1000": 0.90924, - "precision_at_1": 0.55742, - "precision_at_3": 0.38936, - "precision_at_5": 0.29972, - "precision_at_10": 0.19216, - "precision_at_50": 0.047, - "precision_at_100": 0.02459, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.55742, - "mrr_at_3": 0.64986, - "mrr_at_5": 0.66443, - "mrr_at_10": 0.67069, - "mrr_at_50": 0.6749, - "mrr_at_100": 0.67521, - "mrr_at_1000": 0.67521 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.58602, - "ndcg_at_3": 0.54453, - "ndcg_at_5": 0.56266, - "ndcg_at_10": 0.60775, - "ndcg_at_50": 0.6531, - "ndcg_at_100": 0.66597, - "ndcg_at_1000": 0.66597, - "map_at_1": 0.29111, - "map_at_3": 0.43144, - "map_at_5": 0.48046, - "map_at_10": 0.5158, - "map_at_50": 0.53498, - "map_at_100": 0.53681, - "map_at_1000": 0.53681, - "recall_at_1": 0.29111, - "recall_at_3": 0.47985, - "recall_at_5": 0.57727, - "recall_at_10": 0.68684, - "recall_at_50": 0.83257, - "recall_at_100": 0.89626, - "recall_at_1000": 0.89626, - "precision_at_1": 0.58602, - "precision_at_3": 0.38351, - "precision_at_5": 0.29301, - "precision_at_10": 0.18306, - "precision_at_50": 0.04538, - "precision_at_100": 0.02414, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.58602, - "mrr_at_3": 0.66353, - "mrr_at_5": 0.67428, - "mrr_at_10": 0.68199, - "mrr_at_50": 0.68486, - "mrr_at_100": 0.68533, - "mrr_at_1000": 0.68533 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.51639, - "ndcg_at_3": 0.47156, - "ndcg_at_5": 0.48858, - "ndcg_at_10": 0.54416, - "ndcg_at_50": 0.60719, - "ndcg_at_100": 0.62026, - "ndcg_at_1000": 0.62026, - "map_at_1": 0.20696, - "map_at_3": 0.33712, - "map_at_5": 0.38995, - "map_at_10": 0.44016, - "map_at_50": 0.46705, - "map_at_100": 0.46919, - "map_at_1000": 0.46919, - "recall_at_1": 0.20696, - "recall_at_3": 0.38783, - "recall_at_5": 0.49299, - "recall_at_10": 0.63139, - "recall_at_50": 0.82767, - "recall_at_100": 0.8896, - "recall_at_1000": 0.8896, - "precision_at_1": 0.51639, - "precision_at_3": 0.37158, - "precision_at_5": 0.29727, - "precision_at_10": 0.20164, - "precision_at_50": 0.05328, - "precision_at_100": 0.02825, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.51639, - "mrr_at_3": 0.59745, - "mrr_at_5": 0.61179, - "mrr_at_10": 0.62039, - "mrr_at_50": 0.62521, - "mrr_at_100": 0.62571, - "mrr_at_1000": 0.62571 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.4973, - "ndcg_at_3": 0.48848, - "ndcg_at_5": 0.50914, - "ndcg_at_10": 0.57992, - "ndcg_at_50": 0.64235, - "ndcg_at_100": 0.65435, - "ndcg_at_1000": 0.65435, - "map_at_1": 0.27024, - "map_at_3": 0.39902, - "map_at_5": 0.43476, - "map_at_10": 0.48583, - "map_at_50": 0.50963, - "map_at_100": 0.51141, - "map_at_1000": 0.51141, - "recall_at_1": 0.27024, - "recall_at_3": 0.46195, - "recall_at_5": 0.54165, - "recall_at_10": 0.70773, - "recall_at_50": 0.92446, - "recall_at_100": 0.98378, - "recall_at_1000": 0.98378, - "precision_at_1": 0.4973, - "precision_at_3": 0.32973, - "precision_at_5": 0.24541, - "precision_at_10": 0.17054, - "precision_at_50": 0.04405, - "precision_at_100": 0.02335, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.4973, - "mrr_at_3": 0.58243, - "mrr_at_5": 0.59568, - "mrr_at_10": 0.60709, - "mrr_at_50": 0.61391, - "mrr_at_100": 0.61436, - "mrr_at_1000": 0.61436 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.3773, - "ndcg_at_3": 0.39365, - "ndcg_at_5": 0.43252, - "ndcg_at_10": 0.48967, - "ndcg_at_50": 0.5494, - "ndcg_at_100": 0.55845, - "ndcg_at_1000": 0.55845, - "map_at_1": 0.23592, - "map_at_3": 0.32804, - "map_at_5": 0.36609, - "map_at_10": 0.40087, - "map_at_50": 0.42102, - "map_at_100": 0.42208, - "map_at_1000": 0.42208, - "recall_at_1": 0.23592, - "recall_at_3": 0.40045, - "recall_at_5": 0.49909, - "recall_at_10": 0.64408, - "recall_at_50": 0.86033, - "recall_at_100": 0.90874, - "recall_at_1000": 0.90874, - "precision_at_1": 0.3773, - "precision_at_3": 0.24131, - "precision_at_5": 0.19325, - "precision_at_10": 0.12822, - "precision_at_50": 0.03405, - "precision_at_100": 0.01785, - "precision_at_1000": 0.00179, - "mrr_at_1": 0.3773, - "mrr_at_3": 0.45859, - "mrr_at_5": 0.4796, - "mrr_at_10": 0.49397, - "mrr_at_50": 0.50261, - "mrr_at_100": 0.50308, - "mrr_at_1000": 0.50308 - }, - "gpt3": { - "ndcg_at_1": 0.37389, - "ndcg_at_3": 0.42472, - "ndcg_at_5": 0.45475, - "ndcg_at_10": 0.51185, - "ndcg_at_50": 0.56117, - "ndcg_at_100": 0.57048, - "ndcg_at_1000": 0.57048, - "map_at_1": 0.29105, - "map_at_3": 0.38164, - "map_at_5": 0.40298, - "map_at_10": 0.43174, - "map_at_50": 0.4452, - "map_at_100": 0.44613, - "map_at_1000": 0.44613, - "recall_at_1": 0.29105, - "recall_at_3": 0.46958, - "recall_at_5": 0.53561, - "recall_at_10": 0.69115, - "recall_at_50": 0.88872, - "recall_at_100": 0.94362, - "recall_at_1000": 0.94362, - "precision_at_1": 0.37389, - "precision_at_3": 0.21365, - "precision_at_5": 0.15134, - "precision_at_10": 0.10119, - "precision_at_50": 0.02623, - "precision_at_100": 0.0138, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.37389, - "mrr_at_3": 0.45747, - "mrr_at_5": 0.47112, - "mrr_at_10": 0.4891, - "mrr_at_50": 0.49711, - "mrr_at_100": 0.49782, - "mrr_at_1000": 0.49782 - }, - "llm-survey": { - "ndcg_at_1": 0.43417, - "ndcg_at_3": 0.40575, - "ndcg_at_5": 0.42704, - "ndcg_at_10": 0.4727, - "ndcg_at_50": 0.53767, - "ndcg_at_100": 0.55633, - "ndcg_at_1000": 0.55633, - "map_at_1": 0.20174, - "map_at_3": 0.31632, - "map_at_5": 0.35451, - "map_at_10": 0.38827, - "map_at_50": 0.41147, - "map_at_100": 0.41398, - "map_at_1000": 0.41398, - "recall_at_1": 0.20174, - "recall_at_3": 0.36586, - "recall_at_5": 0.44536, - "recall_at_10": 0.55891, - "recall_at_50": 0.77751, - "recall_at_100": 0.87352, - "recall_at_1000": 0.87352, - "precision_at_1": 0.43417, - "precision_at_3": 0.29412, - "precision_at_5": 0.22913, - "precision_at_10": 0.15098, - "precision_at_50": 0.04224, - "precision_at_100": 0.02305, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.43417, - "mrr_at_3": 0.50233, - "mrr_at_5": 0.51578, - "mrr_at_10": 0.52795, - "mrr_at_50": 0.53555, - "mrr_at_100": 0.53638, - "mrr_at_1000": 0.53638 - }, - "gemini": { - "ndcg_at_1": 0.36145, - "ndcg_at_3": 0.47772, - "ndcg_at_5": 0.49622, - "ndcg_at_10": 0.52975, - "ndcg_at_50": 0.56999, - "ndcg_at_100": 0.58045, - "ndcg_at_1000": 0.58045, - "map_at_1": 0.36145, - "map_at_3": 0.4498, - "map_at_5": 0.46024, - "map_at_10": 0.47395, - "map_at_50": 0.48316, - "map_at_100": 0.4841, - "map_at_1000": 0.4841, - "recall_at_1": 0.36145, - "recall_at_3": 0.55823, - "recall_at_5": 0.60241, - "recall_at_10": 0.70683, - "recall_at_50": 0.88353, - "recall_at_100": 0.94779, - "recall_at_1000": 0.94779, - "precision_at_1": 0.36145, - "precision_at_3": 0.18608, - "precision_at_5": 0.12048, - "precision_at_10": 0.07068, - "precision_at_50": 0.01767, - "precision_at_100": 0.00948, - "precision_at_1000": 0.00095, - "mrr_at_1": 0.36145, - "mrr_at_3": 0.4498, - "mrr_at_5": 0.46024, - "mrr_at_10": 0.47395, - "mrr_at_50": 0.48315, - "mrr_at_100": 0.48409, - "mrr_at_1000": 0.48409 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.36813, - "ndcg_at_3": 0.32643, - "ndcg_at_5": 0.32478, - "ndcg_at_10": 0.33593, - "ndcg_at_50": 0.36195, - "ndcg_at_100": 0.3646, - "ndcg_at_1000": 0.3646, - "map_at_1": 0.15418, - "map_at_3": 0.22721, - "map_at_5": 0.25599, - "map_at_10": 0.27918, - "map_at_50": 0.29239, - "map_at_100": 0.29278, - "map_at_1000": 0.29278, - "recall_at_1": 0.15418, - "recall_at_3": 0.25213, - "recall_at_5": 0.29948, - "recall_at_10": 0.35036, - "recall_at_50": 0.42262, - "recall_at_100": 0.43533, - "recall_at_1000": 0.43533, - "precision_at_1": 0.36813, - "precision_at_3": 0.24394, - "precision_at_5": 0.19067, - "precision_at_10": 0.12199, - "precision_at_50": 0.03077, - "precision_at_100": 0.01571, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.36813, - "mrr_at_3": 0.41153, - "mrr_at_5": 0.41758, - "mrr_at_10": 0.42182, - "mrr_at_50": 0.42395, - "mrr_at_100": 0.42409, - "mrr_at_1000": 0.42409 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.57869, - "ndcg_at_3": 0.55509, - "ndcg_at_5": 0.5597, - "ndcg_at_10": 0.58538, - "ndcg_at_50": 0.62725, - "ndcg_at_100": 0.62976, - "ndcg_at_1000": 0.62976, - "map_at_1": 0.26112, - "map_at_3": 0.39597, - "map_at_5": 0.45166, - "map_at_10": 0.50143, - "map_at_50": 0.52681, - "map_at_100": 0.52734, - "map_at_1000": 0.52734, - "recall_at_1": 0.26112, - "recall_at_3": 0.43809, - "recall_at_5": 0.52828, - "recall_at_10": 0.63276, - "recall_at_50": 0.74017, - "recall_at_100": 0.75003, - "recall_at_1000": 0.75003, - "precision_at_1": 0.57869, - "precision_at_3": 0.41347, - "precision_at_5": 0.33296, - "precision_at_10": 0.22392, - "precision_at_50": 0.05617, - "precision_at_100": 0.02851, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.57869, - "mrr_at_3": 0.64829, - "mrr_at_5": 0.6591, - "mrr_at_10": 0.66554, - "mrr_at_50": 0.6674, - "mrr_at_100": 0.66746, - "mrr_at_1000": 0.66746 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.69109, - "ndcg_at_3": 0.6381, - "ndcg_at_5": 0.62051, - "ndcg_at_10": 0.64086, - "ndcg_at_50": 0.70886, - "ndcg_at_100": 0.71237, - "ndcg_at_1000": 0.71237, - "map_at_1": 0.19695, - "map_at_3": 0.3637, - "map_at_5": 0.44619, - "map_at_10": 0.53133, - "map_at_50": 0.577, - "map_at_100": 0.57789, - "map_at_1000": 0.57789, - "recall_at_1": 0.19695, - "recall_at_3": 0.39674, - "recall_at_5": 0.51439, - "recall_at_10": 0.66673, - "recall_at_50": 0.83014, - "recall_at_100": 0.84329, - "recall_at_1000": 0.84329, - "precision_at_1": 0.69109, - "precision_at_3": 0.55752, - "precision_at_5": 0.46963, - "precision_at_10": 0.32939, - "precision_at_50": 0.08584, - "precision_at_100": 0.04356, - "precision_at_1000": 0.00436, - "mrr_at_1": 0.69109, - "mrr_at_3": 0.75648, - "mrr_at_5": 0.7664, - "mrr_at_10": 0.77077, - "mrr_at_50": 0.77248, - "mrr_at_100": 0.77252, - "mrr_at_1000": 0.77252 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.59285, - "ndcg_at_3": 0.55393, - "ndcg_at_5": 0.569, - "ndcg_at_10": 0.60919, - "ndcg_at_50": 0.64493, - "ndcg_at_100": 0.64704, - "ndcg_at_1000": 0.64704, - "map_at_1": 0.2638, - "map_at_3": 0.417, - "map_at_5": 0.46868, - "map_at_10": 0.50975, - "map_at_50": 0.52728, - "map_at_100": 0.52764, - "map_at_1000": 0.52764, - "recall_at_1": 0.2638, - "recall_at_3": 0.48075, - "recall_at_5": 0.57772, - "recall_at_10": 0.6878, - "recall_at_50": 0.79458, - "recall_at_100": 0.80427, - "recall_at_1000": 0.80427, - "precision_at_1": 0.59285, - "precision_at_3": 0.4132, - "precision_at_5": 0.31763, - "precision_at_10": 0.20023, - "precision_at_50": 0.04716, - "precision_at_100": 0.02384, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.59344, - "mrr_at_3": 0.67838, - "mrr_at_5": 0.68855, - "mrr_at_10": 0.6948, - "mrr_at_50": 0.6972, - "mrr_at_100": 0.69727, - "mrr_at_1000": 0.69727 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.51546, - "ndcg_at_3": 0.53866, - "ndcg_at_5": 0.55222, - "ndcg_at_10": 0.57694, - "ndcg_at_50": 0.59678, - "ndcg_at_100": 0.59796, - "ndcg_at_1000": 0.59796, - "map_at_1": 0.32149, - "map_at_3": 0.45656, - "map_at_5": 0.49163, - "map_at_10": 0.51936, - "map_at_50": 0.52954, - "map_at_100": 0.52969, - "map_at_1000": 0.52969, - "recall_at_1": 0.32149, - "recall_at_3": 0.51722, - "recall_at_5": 0.58334, - "recall_at_10": 0.65417, - "recall_at_50": 0.71519, - "recall_at_100": 0.72166, - "recall_at_1000": 0.72166, - "precision_at_1": 0.51546, - "precision_at_3": 0.33123, - "precision_at_5": 0.2429, - "precision_at_10": 0.14909, - "precision_at_50": 0.03388, - "precision_at_100": 0.01704, - "precision_at_1000": 0.0017, - "mrr_at_1": 0.51546, - "mrr_at_3": 0.58318, - "mrr_at_5": 0.58986, - "mrr_at_10": 0.59371, - "mrr_at_50": 0.59554, - "mrr_at_100": 0.59562, - "mrr_at_1000": 0.59562 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.71859, - "ndcg_at_3": 0.66464, - "ndcg_at_5": 0.67157, - "ndcg_at_10": 0.68899, - "ndcg_at_50": 0.70429, - "ndcg_at_100": 0.70505, - "ndcg_at_1000": 0.70505, - "map_at_1": 0.42136, - "map_at_3": 0.56388, - "map_at_5": 0.60048, - "map_at_10": 0.62119, - "map_at_50": 0.62899, - "map_at_100": 0.62911, - "map_at_1000": 0.62911, - "recall_at_1": 0.42136, - "recall_at_3": 0.6041, - "recall_at_5": 0.66699, - "recall_at_10": 0.71794, - "recall_at_50": 0.76288, - "recall_at_100": 0.76624, - "recall_at_1000": 0.76624, - "precision_at_1": 0.71859, - "precision_at_3": 0.41594, - "precision_at_5": 0.29473, - "precision_at_10": 0.16734, - "precision_at_50": 0.03657, - "precision_at_100": 0.01838, - "precision_at_1000": 0.00184, - "mrr_at_1": 0.71859, - "mrr_at_3": 0.77099, - "mrr_at_5": 0.77577, - "mrr_at_10": 0.77773, - "mrr_at_50": 0.77873, - "mrr_at_100": 0.77877, - "mrr_at_1000": 0.77877 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.52513, - "ndcg_at_3": 0.47678, - "ndcg_at_5": 0.48695, - "ndcg_at_10": 0.52149, - "ndcg_at_50": 0.55672, - "ndcg_at_100": 0.55938, - "ndcg_at_1000": 0.55938, - "map_at_1": 0.22274, - "map_at_3": 0.33864, - "map_at_5": 0.38584, - "map_at_10": 0.42315, - "map_at_50": 0.44015, - "map_at_100": 0.44049, - "map_at_1000": 0.44049, - "recall_at_1": 0.22274, - "recall_at_3": 0.39378, - "recall_at_5": 0.48026, - "recall_at_10": 0.58333, - "recall_at_50": 0.68497, - "recall_at_100": 0.69886, - "recall_at_1000": 0.69886, - "precision_at_1": 0.52513, - "precision_at_3": 0.35779, - "precision_at_5": 0.28296, - "precision_at_10": 0.18082, - "precision_at_50": 0.04376, - "precision_at_100": 0.02214, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.52513, - "mrr_at_3": 0.60919, - "mrr_at_5": 0.6186, - "mrr_at_10": 0.62525, - "mrr_at_50": 0.62748, - "mrr_at_100": 0.62761, - "mrr_at_1000": 0.62761 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.58465, - "ndcg_at_3": 0.55257, - "ndcg_at_5": 0.55071, - "ndcg_at_10": 0.57467, - "ndcg_at_50": 0.6089, - "ndcg_at_100": 0.6107, - "ndcg_at_1000": 0.6107, - "map_at_1": 0.28427, - "map_at_3": 0.40423, - "map_at_5": 0.44705, - "map_at_10": 0.48419, - "map_at_50": 0.50275, - "map_at_100": 0.50308, - "map_at_1000": 0.50308, - "recall_at_1": 0.28427, - "recall_at_3": 0.45437, - "recall_at_5": 0.53224, - "recall_at_10": 0.61902, - "recall_at_50": 0.70841, - "recall_at_100": 0.71596, - "recall_at_1000": 0.71596, - "precision_at_1": 0.58465, - "precision_at_3": 0.39055, - "precision_at_5": 0.30006, - "precision_at_10": 0.19291, - "precision_at_50": 0.0469, - "precision_at_100": 0.02372, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.58465, - "mrr_at_3": 0.66169, - "mrr_at_5": 0.67241, - "mrr_at_10": 0.67757, - "mrr_at_50": 0.6795, - "mrr_at_100": 0.67958, - "mrr_at_1000": 0.67958 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.70231, - "ndcg_at_3": 0.65025, - "ndcg_at_5": 0.66233, - "ndcg_at_10": 0.70368, - "ndcg_at_50": 0.75128, - "ndcg_at_100": 0.75426, - "ndcg_at_1000": 0.75426, - "map_at_1": 0.23005, - "map_at_3": 0.43557, - "map_at_5": 0.52575, - "map_at_10": 0.59343, - "map_at_50": 0.62237, - "map_at_100": 0.6229, - "map_at_1000": 0.6229, - "recall_at_1": 0.23005, - "recall_at_3": 0.49056, - "recall_at_5": 0.64252, - "recall_at_10": 0.7751, - "recall_at_50": 0.90295, - "recall_at_100": 0.91684, - "recall_at_1000": 0.91684, - "precision_at_1": 0.70231, - "precision_at_3": 0.55395, - "precision_at_5": 0.45434, - "precision_at_10": 0.29451, - "precision_at_50": 0.06994, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.70231, - "mrr_at_3": 0.78276, - "mrr_at_5": 0.79591, - "mrr_at_10": 0.79812, - "mrr_at_50": 0.79947, - "mrr_at_100": 0.7996, - "mrr_at_1000": 0.7996 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.6997, - "ndcg_at_3": 0.63392, - "ndcg_at_5": 0.6259, - "ndcg_at_10": 0.67746, - "ndcg_at_50": 0.73929, - "ndcg_at_100": 0.74108, - "ndcg_at_1000": 0.74108, - "map_at_1": 0.21218, - "map_at_3": 0.39389, - "map_at_5": 0.48095, - "map_at_10": 0.56926, - "map_at_50": 0.60912, - "map_at_100": 0.60945, - "map_at_1000": 0.60945, - "recall_at_1": 0.21218, - "recall_at_3": 0.4303, - "recall_at_5": 0.55549, - "recall_at_10": 0.72703, - "recall_at_50": 0.88793, - "recall_at_100": 0.89603, - "recall_at_1000": 0.89603, - "precision_at_1": 0.6997, - "precision_at_3": 0.55455, - "precision_at_5": 0.45826, - "precision_at_10": 0.31922, - "precision_at_50": 0.07892, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.6997, - "mrr_at_3": 0.77177, - "mrr_at_5": 0.77808, - "mrr_at_10": 0.78315, - "mrr_at_50": 0.78489, - "mrr_at_100": 0.78493, - "mrr_at_1000": 0.78493 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.72485, - "ndcg_at_3": 0.66259, - "ndcg_at_5": 0.64684, - "ndcg_at_10": 0.68898, - "ndcg_at_50": 0.73921, - "ndcg_at_100": 0.73995, - "ndcg_at_1000": 0.73995, - "map_at_1": 0.22603, - "map_at_3": 0.41925, - "map_at_5": 0.50352, - "map_at_10": 0.58577, - "map_at_50": 0.61783, - "map_at_100": 0.61807, - "map_at_1000": 0.61807, - "recall_at_1": 0.22603, - "recall_at_3": 0.45494, - "recall_at_5": 0.57685, - "recall_at_10": 0.73772, - "recall_at_50": 0.86636, - "recall_at_100": 0.86886, - "recall_at_1000": 0.86886, - "precision_at_1": 0.72485, - "precision_at_3": 0.56805, - "precision_at_5": 0.45917, - "precision_at_10": 0.31538, - "precision_at_50": 0.07592, - "precision_at_100": 0.03811, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.72485, - "mrr_at_3": 0.78008, - "mrr_at_5": 0.78629, - "mrr_at_10": 0.7931, - "mrr_at_50": 0.79543, - "mrr_at_100": 0.79543, - "mrr_at_1000": 0.79543 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.74926, - "ndcg_at_3": 0.68355, - "ndcg_at_5": 0.68818, - "ndcg_at_10": 0.74189, - "ndcg_at_50": 0.78594, - "ndcg_at_100": 0.78864, - "ndcg_at_1000": 0.78864, - "map_at_1": 0.25745, - "map_at_3": 0.47756, - "map_at_5": 0.56265, - "map_at_10": 0.63939, - "map_at_50": 0.66638, - "map_at_100": 0.66692, - "map_at_1000": 0.66692, - "recall_at_1": 0.25745, - "recall_at_3": 0.51646, - "recall_at_5": 0.64885, - "recall_at_10": 0.80611, - "recall_at_50": 0.92431, - "recall_at_100": 0.93553, - "recall_at_1000": 0.93553, - "precision_at_1": 0.74926, - "precision_at_3": 0.57817, - "precision_at_5": 0.46313, - "precision_at_10": 0.30767, - "precision_at_50": 0.07221, - "precision_at_100": 0.03649, - "precision_at_1000": 0.00365, - "mrr_at_1": 0.74926, - "mrr_at_3": 0.81465, - "mrr_at_5": 0.8204, - "mrr_at_10": 0.82463, - "mrr_at_50": 0.82604, - "mrr_at_100": 0.82614, - "mrr_at_1000": 0.82614 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.80435, - "ndcg_at_3": 0.74757, - "ndcg_at_5": 0.73309, - "ndcg_at_10": 0.78118, - "ndcg_at_50": 0.83299, - "ndcg_at_100": 0.83482, - "ndcg_at_1000": 0.83482, - "map_at_1": 0.29685, - "map_at_3": 0.52158, - "map_at_5": 0.60431, - "map_at_10": 0.68548, - "map_at_50": 0.72, - "map_at_100": 0.72047, - "map_at_1000": 0.72047, - "recall_at_1": 0.29685, - "recall_at_3": 0.55704, - "recall_at_5": 0.67509, - "recall_at_10": 0.8264, - "recall_at_50": 0.95447, - "recall_at_100": 0.96113, - "recall_at_1000": 0.96113, - "precision_at_1": 0.80435, - "precision_at_3": 0.61322, - "precision_at_5": 0.48152, - "precision_at_10": 0.31984, - "precision_at_50": 0.07734, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.80435, - "mrr_at_3": 0.86051, - "mrr_at_5": 0.86703, - "mrr_at_10": 0.86962, - "mrr_at_50": 0.87097, - "mrr_at_100": 0.87097, - "mrr_at_1000": 0.87097 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.65476, - "ndcg_at_3": 0.60917, - "ndcg_at_5": 0.61776, - "ndcg_at_10": 0.6584, - "ndcg_at_50": 0.70254, - "ndcg_at_100": 0.7075, - "ndcg_at_1000": 0.7075, - "map_at_1": 0.28812, - "map_at_3": 0.4641, - "map_at_5": 0.5232, - "map_at_10": 0.56904, - "map_at_50": 0.5924, - "map_at_100": 0.5931, - "map_at_1000": 0.5931, - "recall_at_1": 0.28812, - "recall_at_3": 0.50934, - "recall_at_5": 0.60867, - "recall_at_10": 0.71927, - "recall_at_50": 0.84743, - "recall_at_100": 0.87284, - "recall_at_1000": 0.87284, - "precision_at_1": 0.65476, - "precision_at_3": 0.45238, - "precision_at_5": 0.35119, - "precision_at_10": 0.22232, - "precision_at_50": 0.0544, - "precision_at_100": 0.02771, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.65476, - "mrr_at_3": 0.72371, - "mrr_at_5": 0.73353, - "mrr_at_10": 0.73828, - "mrr_at_50": 0.73996, - "mrr_at_100": 0.74034, - "mrr_at_1000": 0.74034 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.67887, - "ndcg_at_3": 0.63224, - "ndcg_at_5": 0.65211, - "ndcg_at_10": 0.711, - "ndcg_at_50": 0.74759, - "ndcg_at_100": 0.74857, - "ndcg_at_1000": 0.74857, - "map_at_1": 0.32339, - "map_at_3": 0.50244, - "map_at_5": 0.55212, - "map_at_10": 0.60358, - "map_at_50": 0.62316, - "map_at_100": 0.62329, - "map_at_1000": 0.62329, - "recall_at_1": 0.32339, - "recall_at_3": 0.57529, - "recall_at_5": 0.68272, - "recall_at_10": 0.81508, - "recall_at_50": 0.91989, - "recall_at_100": 0.92506, - "recall_at_1000": 0.92506, - "precision_at_1": 0.67887, - "precision_at_3": 0.45164, - "precision_at_5": 0.33408, - "precision_at_10": 0.21718, - "precision_at_50": 0.05093, - "precision_at_100": 0.02558, - "precision_at_1000": 0.00256, - "mrr_at_1": 0.67887, - "mrr_at_3": 0.76385, - "mrr_at_5": 0.77864, - "mrr_at_10": 0.78186, - "mrr_at_50": 0.78281, - "mrr_at_100": 0.78284, - "mrr_at_1000": 0.78284 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.66106, - "ndcg_at_3": 0.62509, - "ndcg_at_5": 0.63746, - "ndcg_at_10": 0.68152, - "ndcg_at_50": 0.73018, - "ndcg_at_100": 0.732, - "ndcg_at_1000": 0.732, - "map_at_1": 0.32997, - "map_at_3": 0.50336, - "map_at_5": 0.54702, - "map_at_10": 0.58531, - "map_at_50": 0.60837, - "map_at_100": 0.60861, - "map_at_1000": 0.60861, - "recall_at_1": 0.32997, - "recall_at_3": 0.56909, - "recall_at_5": 0.65257, - "recall_at_10": 0.75788, - "recall_at_50": 0.89922, - "recall_at_100": 0.90924, - "recall_at_1000": 0.90924, - "precision_at_1": 0.66106, - "precision_at_3": 0.44164, - "precision_at_5": 0.31989, - "precision_at_10": 0.1958, - "precision_at_50": 0.04885, - "precision_at_100": 0.02459, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.66106, - "mrr_at_3": 0.7549, - "mrr_at_5": 0.7612, - "mrr_at_10": 0.76598, - "mrr_at_50": 0.76865, - "mrr_at_100": 0.76877, - "mrr_at_1000": 0.76877 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.7043, - "ndcg_at_3": 0.65395, - "ndcg_at_5": 0.66895, - "ndcg_at_10": 0.71466, - "ndcg_at_50": 0.74886, - "ndcg_at_100": 0.75209, - "ndcg_at_1000": 0.75209, - "map_at_1": 0.3774, - "map_at_3": 0.53961, - "map_at_5": 0.58659, - "map_at_10": 0.62342, - "map_at_50": 0.64147, - "map_at_100": 0.64195, - "map_at_1000": 0.64195, - "recall_at_1": 0.3774, - "recall_at_3": 0.58952, - "recall_at_5": 0.68132, - "recall_at_10": 0.7848, - "recall_at_50": 0.8804, - "recall_at_100": 0.89626, - "recall_at_1000": 0.89626, - "precision_at_1": 0.7043, - "precision_at_3": 0.44176, - "precision_at_5": 0.32634, - "precision_at_10": 0.20108, - "precision_at_50": 0.04758, - "precision_at_100": 0.02414, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.7043, - "mrr_at_3": 0.77867, - "mrr_at_5": 0.78741, - "mrr_at_10": 0.79143, - "mrr_at_50": 0.79284, - "mrr_at_100": 0.79292, - "mrr_at_1000": 0.79292 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.57377, - "ndcg_at_3": 0.55289, - "ndcg_at_5": 0.56457, - "ndcg_at_10": 0.61631, - "ndcg_at_50": 0.6726, - "ndcg_at_100": 0.67823, - "ndcg_at_1000": 0.67823, - "map_at_1": 0.24749, - "map_at_3": 0.40658, - "map_at_5": 0.45957, - "map_at_10": 0.51077, - "map_at_50": 0.53853, - "map_at_100": 0.53949, - "map_at_1000": 0.53949, - "recall_at_1": 0.24749, - "recall_at_3": 0.47391, - "recall_at_5": 0.56926, - "recall_at_10": 0.696, - "recall_at_50": 0.86321, - "recall_at_100": 0.8896, - "recall_at_1000": 0.8896, - "precision_at_1": 0.57377, - "precision_at_3": 0.42532, - "precision_at_5": 0.3306, - "precision_at_10": 0.21749, - "precision_at_50": 0.05514, - "precision_at_100": 0.02825, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.57377, - "mrr_at_3": 0.6867, - "mrr_at_5": 0.69531, - "mrr_at_10": 0.6994, - "mrr_at_50": 0.70228, - "mrr_at_100": 0.7025, - "mrr_at_1000": 0.7025 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.5973, - "ndcg_at_3": 0.60958, - "ndcg_at_5": 0.64742, - "ndcg_at_10": 0.70164, - "ndcg_at_50": 0.74253, - "ndcg_at_100": 0.74739, - "ndcg_at_1000": 0.74739, - "map_at_1": 0.34564, - "map_at_3": 0.51283, - "map_at_5": 0.56658, - "map_at_10": 0.61067, - "map_at_50": 0.62966, - "map_at_100": 0.63038, - "map_at_1000": 0.63038, - "recall_at_1": 0.34564, - "recall_at_3": 0.59237, - "recall_at_5": 0.70428, - "recall_at_10": 0.82934, - "recall_at_50": 0.95986, - "recall_at_100": 0.98378, - "recall_at_1000": 0.98378, - "precision_at_1": 0.5973, - "precision_at_3": 0.4018, - "precision_at_5": 0.30811, - "precision_at_10": 0.19405, - "precision_at_50": 0.04568, - "precision_at_100": 0.02335, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.5973, - "mrr_at_3": 0.6991, - "mrr_at_5": 0.71113, - "mrr_at_10": 0.7167, - "mrr_at_50": 0.72008, - "mrr_at_100": 0.7203, - "mrr_at_1000": 0.7203 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.5092, - "ndcg_at_3": 0.54815, - "ndcg_at_5": 0.58754, - "ndcg_at_10": 0.63947, - "ndcg_at_50": 0.67232, - "ndcg_at_100": 0.67503, - "ndcg_at_1000": 0.67503, - "map_at_1": 0.34451, - "map_at_3": 0.47176, - "map_at_5": 0.51233, - "map_at_10": 0.54969, - "map_at_50": 0.56292, - "map_at_100": 0.56327, - "map_at_1000": 0.56327, - "recall_at_1": 0.34451, - "recall_at_3": 0.55811, - "recall_at_5": 0.66068, - "recall_at_10": 0.78364, - "recall_at_50": 0.89443, - "recall_at_100": 0.90874, - "recall_at_1000": 0.90874, - "precision_at_1": 0.5092, - "precision_at_3": 0.32413, - "precision_at_5": 0.24294, - "precision_at_10": 0.15337, - "precision_at_50": 0.03515, - "precision_at_100": 0.01785, - "precision_at_1000": 0.00179, - "mrr_at_1": 0.5092, - "mrr_at_3": 0.62065, - "mrr_at_5": 0.63829, - "mrr_at_10": 0.64652, - "mrr_at_50": 0.6505, - "mrr_at_100": 0.65053, - "mrr_at_1000": 0.65053 - }, - "gpt3": { - "ndcg_at_1": 0.4095, - "ndcg_at_3": 0.51474, - "ndcg_at_5": 0.55395, - "ndcg_at_10": 0.59436, - "ndcg_at_50": 0.62807, - "ndcg_at_100": 0.63176, - "ndcg_at_1000": 0.63176, - "map_at_1": 0.32295, - "map_at_3": 0.46089, - "map_at_5": 0.48887, - "map_at_10": 0.51062, - "map_at_50": 0.51945, - "map_at_100": 0.51988, - "map_at_1000": 0.51988, - "recall_at_1": 0.32295, - "recall_at_3": 0.58952, - "recall_at_5": 0.67458, - "recall_at_10": 0.78215, - "recall_at_50": 0.92285, - "recall_at_100": 0.94362, - "recall_at_1000": 0.94362, - "precision_at_1": 0.4095, - "precision_at_3": 0.26607, - "precision_at_5": 0.1905, - "precision_at_10": 0.11424, - "precision_at_50": 0.027, - "precision_at_100": 0.0138, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.4095, - "mrr_at_3": 0.53412, - "mrr_at_5": 0.55119, - "mrr_at_10": 0.56149, - "mrr_at_50": 0.5661, - "mrr_at_100": 0.5663, - "mrr_at_1000": 0.5663 - }, - "llm-survey": { - "ndcg_at_1": 0.54062, - "ndcg_at_3": 0.52505, - "ndcg_at_5": 0.5432, - "ndcg_at_10": 0.59327, - "ndcg_at_50": 0.64213, - "ndcg_at_100": 0.64641, - "ndcg_at_1000": 0.64641, - "map_at_1": 0.25424, - "map_at_3": 0.41741, - "map_at_5": 0.45756, - "map_at_10": 0.49913, - "map_at_50": 0.52082, - "map_at_100": 0.52142, - "map_at_1000": 0.52142, - "recall_at_1": 0.25424, - "recall_at_3": 0.47947, - "recall_at_5": 0.57127, - "recall_at_10": 0.69804, - "recall_at_50": 0.851, - "recall_at_100": 0.87352, - "recall_at_1000": 0.87352, - "precision_at_1": 0.54062, - "precision_at_3": 0.38282, - "precision_at_5": 0.28235, - "precision_at_10": 0.18263, - "precision_at_50": 0.04532, - "precision_at_100": 0.02305, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.54062, - "mrr_at_3": 0.62138, - "mrr_at_5": 0.63679, - "mrr_at_10": 0.64425, - "mrr_at_50": 0.64865, - "mrr_at_100": 0.6489, - "mrr_at_1000": 0.6489 - }, - "gemini": { - "ndcg_at_1": 0.40964, - "ndcg_at_3": 0.59064, - "ndcg_at_5": 0.61553, - "ndcg_at_10": 0.6349, - "ndcg_at_50": 0.65791, - "ndcg_at_100": 0.65987, - "ndcg_at_1000": 0.65987, - "map_at_1": 0.40964, - "map_at_3": 0.54752, - "map_at_5": 0.56138, - "map_at_10": 0.5693, - "map_at_50": 0.57467, - "map_at_100": 0.57484, - "map_at_1000": 0.57484, - "recall_at_1": 0.40964, - "recall_at_3": 0.71486, - "recall_at_5": 0.7751, - "recall_at_10": 0.83534, - "recall_at_50": 0.93574, - "recall_at_100": 0.94779, - "recall_at_1000": 0.94779, - "precision_at_1": 0.40964, - "precision_at_3": 0.23829, - "precision_at_5": 0.15502, - "precision_at_10": 0.08353, - "precision_at_50": 0.01871, - "precision_at_100": 0.00948, - "precision_at_1000": 0.00095, - "mrr_at_1": 0.40964, - "mrr_at_3": 0.54752, - "mrr_at_5": 0.56118, - "mrr_at_10": 0.5691, - "mrr_at_50": 0.57447, - "mrr_at_100": 0.57464, - "mrr_at_1000": 0.57464 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.3176, - "ndcg_at_3": 0.28216, - "ndcg_at_5": 0.2861, - "ndcg_at_10": 0.30367, - "ndcg_at_50": 0.33285, - "ndcg_at_100": 0.33627, - "ndcg_at_1000": 0.33627, - "map_at_1": 0.12297, - "map_at_3": 0.18704, - "map_at_5": 0.21493, - "map_at_10": 0.24116, - "map_at_50": 0.25556, - "map_at_100": 0.25603, - "map_at_1000": 0.25603, - "recall_at_1": 0.12297, - "recall_at_3": 0.21542, - "recall_at_5": 0.2714, - "recall_at_10": 0.33624, - "recall_at_50": 0.41931, - "recall_at_100": 0.43533, - "recall_at_1000": 0.43533, - "precision_at_1": 0.3176, - "precision_at_3": 0.21636, - "precision_at_5": 0.17479, - "precision_at_10": 0.11782, - "precision_at_50": 0.03053, - "precision_at_100": 0.01571, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.3176, - "mrr_at_3": 0.36406, - "mrr_at_5": 0.37511, - "mrr_at_10": 0.37961, - "mrr_at_50": 0.38248, - "mrr_at_100": 0.38267, - "mrr_at_1000": 0.38267 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.5254, - "ndcg_at_3": 0.51638, - "ndcg_at_5": 0.52547, - "ndcg_at_10": 0.55227, - "ndcg_at_50": 0.599, - "ndcg_at_100": 0.60207, - "ndcg_at_1000": 0.60207, - "map_at_1": 0.22034, - "map_at_3": 0.35209, - "map_at_5": 0.40894, - "map_at_10": 0.46063, - "map_at_50": 0.48848, - "map_at_100": 0.4891, - "map_at_1000": 0.4891, - "recall_at_1": 0.22034, - "recall_at_3": 0.40588, - "recall_at_5": 0.50326, - "recall_at_10": 0.61386, - "recall_at_50": 0.73705, - "recall_at_100": 0.75003, - "recall_at_1000": 0.75003, - "precision_at_1": 0.5254, - "precision_at_3": 0.39488, - "precision_at_5": 0.32664, - "precision_at_10": 0.22069, - "precision_at_50": 0.0561, - "precision_at_100": 0.02851, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.52602, - "mrr_at_3": 0.61276, - "mrr_at_5": 0.62615, - "mrr_at_10": 0.63163, - "mrr_at_50": 0.63412, - "mrr_at_100": 0.6342, - "mrr_at_1000": 0.6342 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.6012, - "ndcg_at_3": 0.5595, - "ndcg_at_5": 0.54924, - "ndcg_at_10": 0.57934, - "ndcg_at_50": 0.66034, - "ndcg_at_100": 0.6654, - "ndcg_at_1000": 0.6654, - "map_at_1": 0.15974, - "map_at_3": 0.30058, - "map_at_5": 0.37409, - "map_at_10": 0.45896, - "map_at_50": 0.51092, - "map_at_100": 0.51206, - "map_at_1000": 0.51206, - "recall_at_1": 0.15974, - "recall_at_3": 0.34141, - "recall_at_5": 0.45785, - "recall_at_10": 0.62234, - "recall_at_50": 0.82256, - "recall_at_100": 0.84329, - "recall_at_1000": 0.84329, - "precision_at_1": 0.6012, - "precision_at_3": 0.4956, - "precision_at_5": 0.42665, - "precision_at_10": 0.31269, - "precision_at_50": 0.0855, - "precision_at_100": 0.04356, - "precision_at_1000": 0.00436, - "mrr_at_1": 0.60104, - "mrr_at_3": 0.68719, - "mrr_at_5": 0.7002, - "mrr_at_10": 0.70648, - "mrr_at_50": 0.70883, - "mrr_at_100": 0.70896, - "mrr_at_1000": 0.70896 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.52665, - "ndcg_at_3": 0.49101, - "ndcg_at_5": 0.50194, - "ndcg_at_10": 0.54466, - "ndcg_at_50": 0.59089, - "ndcg_at_100": 0.59754, - "ndcg_at_1000": 0.59754, - "map_at_1": 0.22021, - "map_at_3": 0.35648, - "map_at_5": 0.40035, - "map_at_10": 0.44082, - "map_at_50": 0.46047, - "map_at_100": 0.46154, - "map_at_1000": 0.46154, - "recall_at_1": 0.22021, - "recall_at_3": 0.41929, - "recall_at_5": 0.50665, - "recall_at_10": 0.62509, - "recall_at_50": 0.77261, - "recall_at_100": 0.80427, - "recall_at_1000": 0.80427, - "precision_at_1": 0.52665, - "precision_at_3": 0.37473, - "precision_at_5": 0.2874, - "precision_at_10": 0.185, - "precision_at_50": 0.04612, - "precision_at_100": 0.02384, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.52724, - "mrr_at_3": 0.62078, - "mrr_at_5": 0.63305, - "mrr_at_10": 0.63989, - "mrr_at_50": 0.6432, - "mrr_at_100": 0.64341, - "mrr_at_1000": 0.64341 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.47192, - "ndcg_at_3": 0.48552, - "ndcg_at_5": 0.50666, - "ndcg_at_10": 0.53472, - "ndcg_at_50": 0.56063, - "ndcg_at_100": 0.56274, - "ndcg_at_1000": 0.56274, - "map_at_1": 0.28532, - "map_at_3": 0.4029, - "map_at_5": 0.44267, - "map_at_10": 0.47237, - "map_at_50": 0.48401, - "map_at_100": 0.48427, - "map_at_1000": 0.48427, - "recall_at_1": 0.28532, - "recall_at_3": 0.45767, - "recall_at_5": 0.54039, - "recall_at_10": 0.62282, - "recall_at_50": 0.71002, - "recall_at_100": 0.72166, - "recall_at_1000": 0.72166, - "precision_at_1": 0.47192, - "precision_at_3": 0.30536, - "precision_at_5": 0.23319, - "precision_at_10": 0.14536, - "precision_at_50": 0.03372, - "precision_at_100": 0.01704, - "precision_at_1000": 0.0017, - "mrr_at_1": 0.47192, - "mrr_at_3": 0.53523, - "mrr_at_5": 0.54523, - "mrr_at_10": 0.55112, - "mrr_at_50": 0.55371, - "mrr_at_100": 0.55385, - "mrr_at_1000": 0.55385 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.63289, - "ndcg_at_3": 0.59159, - "ndcg_at_5": 0.60939, - "ndcg_at_10": 0.63661, - "ndcg_at_50": 0.65749, - "ndcg_at_100": 0.65871, - "ndcg_at_1000": 0.65871, - "map_at_1": 0.36672, - "map_at_3": 0.49005, - "map_at_5": 0.52859, - "map_at_10": 0.55518, - "map_at_50": 0.56523, - "map_at_100": 0.56538, - "map_at_1000": 0.56538, - "recall_at_1": 0.36672, - "recall_at_3": 0.5431, - "recall_at_5": 0.62413, - "recall_at_10": 0.69704, - "recall_at_50": 0.75987, - "recall_at_100": 0.76624, - "recall_at_1000": 0.76624, - "precision_at_1": 0.63289, - "precision_at_3": 0.37097, - "precision_at_5": 0.27238, - "precision_at_10": 0.16202, - "precision_at_50": 0.03651, - "precision_at_100": 0.01838, - "precision_at_1000": 0.00184, - "mrr_at_1": 0.63289, - "mrr_at_3": 0.70266, - "mrr_at_5": 0.71375, - "mrr_at_10": 0.71715, - "mrr_at_50": 0.71861, - "mrr_at_100": 0.7187, - "mrr_at_1000": 0.7187 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.50838, - "ndcg_at_3": 0.45158, - "ndcg_at_5": 0.46343, - "ndcg_at_10": 0.49796, - "ndcg_at_50": 0.53635, - "ndcg_at_100": 0.54056, - "ndcg_at_1000": 0.54056, - "map_at_1": 0.20241, - "map_at_3": 0.31235, - "map_at_5": 0.35937, - "map_at_10": 0.39695, - "map_at_50": 0.41458, - "map_at_100": 0.41517, - "map_at_1000": 0.41517, - "recall_at_1": 0.20241, - "recall_at_3": 0.36322, - "recall_at_5": 0.45964, - "recall_at_10": 0.5604, - "recall_at_50": 0.67785, - "recall_at_100": 0.69886, - "recall_at_1000": 0.69886, - "precision_at_1": 0.50838, - "precision_at_3": 0.34585, - "precision_at_5": 0.27545, - "precision_at_10": 0.17776, - "precision_at_50": 0.04339, - "precision_at_100": 0.02214, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.50838, - "mrr_at_3": 0.58771, - "mrr_at_5": 0.60074, - "mrr_at_10": 0.60695, - "mrr_at_50": 0.60974, - "mrr_at_100": 0.60996, - "mrr_at_1000": 0.60996 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.51611, - "ndcg_at_3": 0.4903, - "ndcg_at_5": 0.49895, - "ndcg_at_10": 0.52901, - "ndcg_at_50": 0.56988, - "ndcg_at_100": 0.57247, - "ndcg_at_1000": 0.57247, - "map_at_1": 0.24502, - "map_at_3": 0.34822, - "map_at_5": 0.39365, - "map_at_10": 0.43189, - "map_at_50": 0.45263, - "map_at_100": 0.45314, - "map_at_1000": 0.45314, - "recall_at_1": 0.24502, - "recall_at_3": 0.4009, - "recall_at_5": 0.49125, - "recall_at_10": 0.5946, - "recall_at_50": 0.70506, - "recall_at_100": 0.71596, - "recall_at_1000": 0.71596, - "precision_at_1": 0.51611, - "precision_at_3": 0.34974, - "precision_at_5": 0.28061, - "precision_at_10": 0.18401, - "precision_at_50": 0.04668, - "precision_at_100": 0.02372, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.51611, - "mrr_at_3": 0.60027, - "mrr_at_5": 0.61451, - "mrr_at_10": 0.62277, - "mrr_at_50": 0.62554, - "mrr_at_100": 0.62561, - "mrr_at_1000": 0.62561 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.6185, - "ndcg_at_3": 0.58574, - "ndcg_at_5": 0.58729, - "ndcg_at_10": 0.64488, - "ndcg_at_50": 0.7062, - "ndcg_at_100": 0.70943, - "ndcg_at_1000": 0.70943, - "map_at_1": 0.19785, - "map_at_3": 0.37495, - "map_at_5": 0.44671, - "map_at_10": 0.52015, - "map_at_50": 0.55764, - "map_at_100": 0.55809, - "map_at_1000": 0.55809, - "recall_at_1": 0.19785, - "recall_at_3": 0.43848, - "recall_at_5": 0.5641, - "recall_at_10": 0.73639, - "recall_at_50": 0.90042, - "recall_at_100": 0.91684, - "recall_at_1000": 0.91684, - "precision_at_1": 0.6185, - "precision_at_3": 0.50771, - "precision_at_5": 0.41156, - "precision_at_10": 0.27948, - "precision_at_50": 0.07, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.6185, - "mrr_at_3": 0.72351, - "mrr_at_5": 0.73521, - "mrr_at_10": 0.74017, - "mrr_at_50": 0.74167, - "mrr_at_100": 0.74183, - "mrr_at_1000": 0.74183 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.61862, - "ndcg_at_3": 0.57701, - "ndcg_at_5": 0.56584, - "ndcg_at_10": 0.61874, - "ndcg_at_50": 0.69273, - "ndcg_at_100": 0.69645, - "ndcg_at_1000": 0.69645, - "map_at_1": 0.1736, - "map_at_3": 0.3374, - "map_at_5": 0.41305, - "map_at_10": 0.49894, - "map_at_50": 0.54457, - "map_at_100": 0.54514, - "map_at_1000": 0.54514, - "recall_at_1": 0.1736, - "recall_at_3": 0.38293, - "recall_at_5": 0.50102, - "recall_at_10": 0.68056, - "recall_at_50": 0.87739, - "recall_at_100": 0.89603, - "recall_at_1000": 0.89603, - "precision_at_1": 0.61862, - "precision_at_3": 0.51852, - "precision_at_5": 0.43003, - "precision_at_10": 0.3033, - "precision_at_50": 0.0785, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.61862, - "mrr_at_3": 0.71121, - "mrr_at_5": 0.71872, - "mrr_at_10": 0.72519, - "mrr_at_50": 0.72755, - "mrr_at_100": 0.7277, - "mrr_at_1000": 0.7277 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.66568, - "ndcg_at_3": 0.6131, - "ndcg_at_5": 0.61781, - "ndcg_at_10": 0.65516, - "ndcg_at_50": 0.70928, - "ndcg_at_100": 0.7126, - "ndcg_at_1000": 0.7126, - "map_at_1": 0.20255, - "map_at_3": 0.37442, - "map_at_5": 0.46396, - "map_at_10": 0.54573, - "map_at_50": 0.57948, - "map_at_100": 0.5801, - "map_at_1000": 0.5801, - "recall_at_1": 0.20255, - "recall_at_3": 0.41964, - "recall_at_5": 0.55246, - "recall_at_10": 0.71013, - "recall_at_50": 0.85374, - "recall_at_100": 0.86886, - "recall_at_1000": 0.86886, - "precision_at_1": 0.66568, - "precision_at_3": 0.52367, - "precision_at_5": 0.45444, - "precision_at_10": 0.31036, - "precision_at_50": 0.07538, - "precision_at_100": 0.03811, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.66568, - "mrr_at_3": 0.73964, - "mrr_at_5": 0.74882, - "mrr_at_10": 0.75284, - "mrr_at_50": 0.75535, - "mrr_at_100": 0.7555, - "mrr_at_1000": 0.7555 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.69322, - "ndcg_at_3": 0.64713, - "ndcg_at_5": 0.64877, - "ndcg_at_10": 0.70467, - "ndcg_at_50": 0.76131, - "ndcg_at_100": 0.7628, - "ndcg_at_1000": 0.7628, - "map_at_1": 0.23458, - "map_at_3": 0.43828, - "map_at_5": 0.51673, - "map_at_10": 0.59492, - "map_at_50": 0.62874, - "map_at_100": 0.6291, - "map_at_1000": 0.6291, - "recall_at_1": 0.23458, - "recall_at_3": 0.48861, - "recall_at_5": 0.61492, - "recall_at_10": 0.77603, - "recall_at_50": 0.92975, - "recall_at_100": 0.93553, - "recall_at_1000": 0.93553, - "precision_at_1": 0.69322, - "precision_at_3": 0.55359, - "precision_at_5": 0.43953, - "precision_at_10": 0.29617, - "precision_at_50": 0.07251, - "precision_at_100": 0.03649, - "precision_at_1000": 0.00365, - "mrr_at_1": 0.69322, - "mrr_at_3": 0.77876, - "mrr_at_5": 0.78746, - "mrr_at_10": 0.79123, - "mrr_at_50": 0.7934, - "mrr_at_100": 0.7934, - "mrr_at_1000": 0.7934 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.79348, - "ndcg_at_3": 0.72472, - "ndcg_at_5": 0.72142, - "ndcg_at_10": 0.77236, - "ndcg_at_50": 0.82264, - "ndcg_at_100": 0.82547, - "ndcg_at_1000": 0.82547, - "map_at_1": 0.28869, - "map_at_3": 0.49797, - "map_at_5": 0.587, - "map_at_10": 0.66968, - "map_at_50": 0.70305, - "map_at_100": 0.70382, - "map_at_1000": 0.70382, - "recall_at_1": 0.28869, - "recall_at_3": 0.5354, - "recall_at_5": 0.66805, - "recall_at_10": 0.82109, - "recall_at_50": 0.95121, - "recall_at_100": 0.96113, - "recall_at_1000": 0.96113, - "precision_at_1": 0.79348, - "precision_at_3": 0.58877, - "precision_at_5": 0.47989, - "precision_at_10": 0.32255, - "precision_at_50": 0.0769, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.79348, - "mrr_at_3": 0.85734, - "mrr_at_5": 0.86413, - "mrr_at_10": 0.86534, - "mrr_at_50": 0.8665, - "mrr_at_100": 0.8665, - "mrr_at_1000": 0.8665 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.60714, - "ndcg_at_3": 0.57589, - "ndcg_at_5": 0.59234, - "ndcg_at_10": 0.63295, - "ndcg_at_50": 0.67835, - "ndcg_at_100": 0.68358, - "ndcg_at_1000": 0.68358, - "map_at_1": 0.25594, - "map_at_3": 0.42976, - "map_at_5": 0.4969, - "map_at_10": 0.54517, - "map_at_50": 0.56651, - "map_at_100": 0.56742, - "map_at_1000": 0.56742, - "recall_at_1": 0.25594, - "recall_at_3": 0.47716, - "recall_at_5": 0.59026, - "recall_at_10": 0.70594, - "recall_at_50": 0.84781, - "recall_at_100": 0.87284, - "recall_at_1000": 0.87284, - "precision_at_1": 0.60714, - "precision_at_3": 0.44444, - "precision_at_5": 0.35655, - "precision_at_10": 0.2256, - "precision_at_50": 0.05423, - "precision_at_100": 0.02771, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.60714, - "mrr_at_3": 0.67857, - "mrr_at_5": 0.68824, - "mrr_at_10": 0.69491, - "mrr_at_50": 0.69837, - "mrr_at_100": 0.69855, - "mrr_at_1000": 0.69855 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.62254, - "ndcg_at_3": 0.5809, - "ndcg_at_5": 0.60105, - "ndcg_at_10": 0.67025, - "ndcg_at_50": 0.71288, - "ndcg_at_100": 0.71469, - "ndcg_at_1000": 0.71469, - "map_at_1": 0.28549, - "map_at_3": 0.44941, - "map_at_5": 0.50009, - "map_at_10": 0.55886, - "map_at_50": 0.58046, - "map_at_100": 0.58074, - "map_at_1000": 0.58074, - "recall_at_1": 0.28549, - "recall_at_3": 0.52285, - "recall_at_5": 0.62649, - "recall_at_10": 0.78843, - "recall_at_50": 0.91567, - "recall_at_100": 0.92506, - "recall_at_1000": 0.92506, - "precision_at_1": 0.62254, - "precision_at_3": 0.42723, - "precision_at_5": 0.32451, - "precision_at_10": 0.21606, - "precision_at_50": 0.05076, - "precision_at_100": 0.02558, - "precision_at_1000": 0.00256, - "mrr_at_1": 0.62535, - "mrr_at_3": 0.71549, - "mrr_at_5": 0.72817, - "mrr_at_10": 0.73548, - "mrr_at_50": 0.73785, - "mrr_at_100": 0.73792, - "mrr_at_1000": 0.73792 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63305, - "ndcg_at_3": 0.57185, - "ndcg_at_5": 0.5957, - "ndcg_at_10": 0.65512, - "ndcg_at_50": 0.70158, - "ndcg_at_100": 0.70494, - "ndcg_at_1000": 0.70494, - "map_at_1": 0.30689, - "map_at_3": 0.45108, - "map_at_5": 0.49986, - "map_at_10": 0.54648, - "map_at_50": 0.56903, - "map_at_100": 0.56948, - "map_at_1000": 0.56948, - "recall_at_1": 0.30689, - "recall_at_3": 0.5131, - "recall_at_5": 0.61476, - "recall_at_10": 0.75503, - "recall_at_50": 0.89192, - "recall_at_100": 0.90924, - "recall_at_1000": 0.90924, - "precision_at_1": 0.63305, - "precision_at_3": 0.40336, - "precision_at_5": 0.30756, - "precision_at_10": 0.19832, - "precision_at_50": 0.04852, - "precision_at_100": 0.02459, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.63305, - "mrr_at_3": 0.71289, - "mrr_at_5": 0.72661, - "mrr_at_10": 0.73382, - "mrr_at_50": 0.73633, - "mrr_at_100": 0.73654, - "mrr_at_1000": 0.73654 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.61559, - "ndcg_at_3": 0.59727, - "ndcg_at_5": 0.60928, - "ndcg_at_10": 0.66438, - "ndcg_at_50": 0.7058, - "ndcg_at_100": 0.70936, - "ndcg_at_1000": 0.70936, - "map_at_1": 0.32559, - "map_at_3": 0.47958, - "map_at_5": 0.52062, - "map_at_10": 0.56444, - "map_at_50": 0.58354, - "map_at_100": 0.58407, - "map_at_1000": 0.58407, - "recall_at_1": 0.32559, - "recall_at_3": 0.54781, - "recall_at_5": 0.62859, - "recall_at_10": 0.75152, - "recall_at_50": 0.8787, - "recall_at_100": 0.89626, - "recall_at_1000": 0.89626, - "precision_at_1": 0.61559, - "precision_at_3": 0.4095, - "precision_at_5": 0.30054, - "precision_at_10": 0.19543, - "precision_at_50": 0.04753, - "precision_at_100": 0.02414, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.61559, - "mrr_at_3": 0.71953, - "mrr_at_5": 0.72679, - "mrr_at_10": 0.73129, - "mrr_at_50": 0.73353, - "mrr_at_100": 0.7337, - "mrr_at_1000": 0.7337 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.5765, - "ndcg_at_3": 0.53271, - "ndcg_at_5": 0.54536, - "ndcg_at_10": 0.59763, - "ndcg_at_50": 0.65398, - "ndcg_at_100": 0.66218, - "ndcg_at_1000": 0.66218, - "map_at_1": 0.23222, - "map_at_3": 0.37958, - "map_at_5": 0.43839, - "map_at_10": 0.48982, - "map_at_50": 0.51825, - "map_at_100": 0.51942, - "map_at_1000": 0.51942, - "recall_at_1": 0.23222, - "recall_at_3": 0.44062, - "recall_at_5": 0.54649, - "recall_at_10": 0.67952, - "recall_at_50": 0.848, - "recall_at_100": 0.8896, - "recall_at_1000": 0.8896, - "precision_at_1": 0.5765, - "precision_at_3": 0.41803, - "precision_at_5": 0.33224, - "precision_at_10": 0.21858, - "precision_at_50": 0.05481, - "precision_at_100": 0.02825, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.5765, - "mrr_at_3": 0.66576, - "mrr_at_5": 0.67668, - "mrr_at_10": 0.68341, - "mrr_at_50": 0.68653, - "mrr_at_100": 0.68697, - "mrr_at_1000": 0.68697 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.51892, - "ndcg_at_3": 0.56368, - "ndcg_at_5": 0.60129, - "ndcg_at_10": 0.66538, - "ndcg_at_50": 0.71105, - "ndcg_at_100": 0.7131, - "ndcg_at_1000": 0.7131, - "map_at_1": 0.29517, - "map_at_3": 0.46388, - "map_at_5": 0.51403, - "map_at_10": 0.56368, - "map_at_50": 0.58344, - "map_at_100": 0.58374, - "map_at_1000": 0.58374, - "recall_at_1": 0.29517, - "recall_at_3": 0.55622, - "recall_at_5": 0.67011, - "recall_at_10": 0.81981, - "recall_at_50": 0.97342, - "recall_at_100": 0.98378, - "recall_at_1000": 0.98378, - "precision_at_1": 0.51892, - "precision_at_3": 0.38829, - "precision_at_5": 0.29784, - "precision_at_10": 0.19405, - "precision_at_50": 0.04632, - "precision_at_100": 0.02335, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.52162, - "mrr_at_3": 0.6491, - "mrr_at_5": 0.66559, - "mrr_at_10": 0.67268, - "mrr_at_50": 0.67608, - "mrr_at_100": 0.67621, - "mrr_at_1000": 0.67621 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41104, - "ndcg_at_3": 0.46155, - "ndcg_at_5": 0.50948, - "ndcg_at_10": 0.56763, - "ndcg_at_50": 0.60794, - "ndcg_at_100": 0.6121, - "ndcg_at_1000": 0.6121, - "map_at_1": 0.26859, - "map_at_3": 0.39058, - "map_at_5": 0.43409, - "map_at_10": 0.47139, - "map_at_50": 0.4859, - "map_at_100": 0.48646, - "map_at_1000": 0.48646, - "recall_at_1": 0.26859, - "recall_at_3": 0.48528, - "recall_at_5": 0.60154, - "recall_at_10": 0.74143, - "recall_at_50": 0.88727, - "recall_at_100": 0.90874, - "recall_at_1000": 0.90874, - "precision_at_1": 0.41104, - "precision_at_3": 0.28323, - "precision_at_5": 0.22331, - "precision_at_10": 0.14601, - "precision_at_50": 0.03491, - "precision_at_100": 0.01785, - "precision_at_1000": 0.00179, - "mrr_at_1": 0.41104, - "mrr_at_3": 0.52147, - "mrr_at_5": 0.5434, - "mrr_at_10": 0.55625, - "mrr_at_50": 0.56149, - "mrr_at_100": 0.56159, - "mrr_at_1000": 0.56159 - }, - "gpt3": { - "ndcg_at_1": 0.36202, - "ndcg_at_3": 0.4527, - "ndcg_at_5": 0.49988, - "ndcg_at_10": 0.54548, - "ndcg_at_50": 0.59041, - "ndcg_at_100": 0.59428, - "ndcg_at_1000": 0.59428, - "map_at_1": 0.29031, - "map_at_3": 0.4027, - "map_at_5": 0.43446, - "map_at_10": 0.45754, - "map_at_50": 0.47038, - "map_at_100": 0.47075, - "map_at_1000": 0.47075, - "recall_at_1": 0.29031, - "recall_at_3": 0.51484, - "recall_at_5": 0.62043, - "recall_at_10": 0.74159, - "recall_at_50": 0.92038, - "recall_at_100": 0.94362, - "recall_at_1000": 0.94362, - "precision_at_1": 0.36202, - "precision_at_3": 0.23145, - "precision_at_5": 0.17151, - "precision_at_10": 0.10653, - "precision_at_50": 0.02706, - "precision_at_100": 0.0138, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.36202, - "mrr_at_3": 0.47972, - "mrr_at_5": 0.50094, - "mrr_at_10": 0.51582, - "mrr_at_50": 0.52186, - "mrr_at_100": 0.52214, - "mrr_at_1000": 0.52214 - }, - "llm-survey": { - "ndcg_at_1": 0.40056, - "ndcg_at_3": 0.39631, - "ndcg_at_5": 0.43562, - "ndcg_at_10": 0.49665, - "ndcg_at_50": 0.56254, - "ndcg_at_100": 0.56809, - "ndcg_at_1000": 0.56809, - "map_at_1": 0.18792, - "map_at_3": 0.30322, - "map_at_5": 0.34882, - "map_at_10": 0.39251, - "map_at_50": 0.42089, - "map_at_100": 0.42151, - "map_at_1000": 0.42151, - "recall_at_1": 0.18792, - "recall_at_3": 0.36536, - "recall_at_5": 0.47546, - "recall_at_10": 0.62658, - "recall_at_50": 0.84224, - "recall_at_100": 0.87352, - "recall_at_1000": 0.87352, - "precision_at_1": 0.40056, - "precision_at_3": 0.29412, - "precision_at_5": 0.24426, - "precision_at_10": 0.16891, - "precision_at_50": 0.04521, - "precision_at_100": 0.02305, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.40056, - "mrr_at_3": 0.49627, - "mrr_at_5": 0.51769, - "mrr_at_10": 0.53182, - "mrr_at_50": 0.537, - "mrr_at_100": 0.53741, - "mrr_at_1000": 0.53741 - }, - "gemini": { - "ndcg_at_1": 0.36948, - "ndcg_at_3": 0.50401, - "ndcg_at_5": 0.53702, - "ndcg_at_10": 0.56835, - "ndcg_at_50": 0.60189, - "ndcg_at_100": 0.60653, - "ndcg_at_1000": 0.60653, - "map_at_1": 0.36948, - "map_at_3": 0.47256, - "map_at_5": 0.49083, - "map_at_10": 0.50384, - "map_at_50": 0.51139, - "map_at_100": 0.51182, - "map_at_1000": 0.51182, - "recall_at_1": 0.36948, - "recall_at_3": 0.59438, - "recall_at_5": 0.6747, - "recall_at_10": 0.77108, - "recall_at_50": 0.91968, - "recall_at_100": 0.94779, - "recall_at_1000": 0.94779, - "precision_at_1": 0.36948, - "precision_at_3": 0.19813, - "precision_at_5": 0.13494, - "precision_at_10": 0.07711, - "precision_at_50": 0.01839, - "precision_at_100": 0.00948, - "precision_at_1000": 0.00095, - "mrr_at_1": 0.36948, - "mrr_at_3": 0.47256, - "mrr_at_5": 0.49083, - "mrr_at_10": 0.50384, - "mrr_at_50": 0.5114, - "mrr_at_100": 0.51183, - "mrr_at_1000": 0.51183 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.18323, - "ndcg_at_3": 0.16513, - "ndcg_at_5": 0.16963, - "ndcg_at_10": 0.18879, - "ndcg_at_50": 0.23728, - "ndcg_at_100": 0.25198, - "ndcg_at_1000": 0.28972, - "map_at_1": 0.0691, - "map_at_3": 0.10672, - "map_at_5": 0.12194, - "map_at_10": 0.14009, - "map_at_50": 0.15758, - "map_at_100": 0.15976, - "map_at_1000": 0.16167, - "recall_at_1": 0.0691, - "recall_at_3": 0.13103, - "recall_at_5": 0.16518, - "recall_at_10": 0.22215, - "recall_at_50": 0.37176, - "recall_at_100": 0.43533, - "recall_at_1000": 0.66853, - "precision_at_1": 0.18323, - "precision_at_3": 0.12752, - "precision_at_5": 0.10572, - "precision_at_10": 0.07768, - "precision_at_50": 0.02694, - "precision_at_100": 0.01571, - "precision_at_1000": 0.00224, - "mrr_at_1": 0.18323, - "mrr_at_3": 0.22099, - "mrr_at_5": 0.23204, - "mrr_at_10": 0.2398, - "mrr_at_50": 0.2464, - "mrr_at_100": 0.24717, - "mrr_at_1000": 0.24793 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.41326, - "ndcg_at_3": 0.40849, - "ndcg_at_5": 0.41431, - "ndcg_at_10": 0.44105, - "ndcg_at_50": 0.5077, - "ndcg_at_100": 0.5227, - "ndcg_at_1000": 0.54562, - "map_at_1": 0.17764, - "map_at_3": 0.2776, - "map_at_5": 0.3165, - "map_at_10": 0.35638, - "map_at_50": 0.38745, - "map_at_100": 0.39011, - "map_at_1000": 0.39165, - "recall_at_1": 0.17764, - "recall_at_3": 0.32609, - "recall_at_5": 0.40185, - "recall_at_10": 0.50104, - "recall_at_50": 0.6878, - "recall_at_100": 0.75003, - "recall_at_1000": 0.88236, - "precision_at_1": 0.41326, - "precision_at_3": 0.30896, - "precision_at_5": 0.25068, - "precision_at_10": 0.17565, - "precision_at_50": 0.05224, - "precision_at_100": 0.02851, - "precision_at_1000": 0.00329, - "mrr_at_1": 0.41326, - "mrr_at_3": 0.49411, - "mrr_at_5": 0.50926, - "mrr_at_10": 0.51851, - "mrr_at_50": 0.52386, - "mrr_at_100": 0.52424, - "mrr_at_1000": 0.52454 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.5963, - "ndcg_at_3": 0.54092, - "ndcg_at_5": 0.52626, - "ndcg_at_10": 0.54292, - "ndcg_at_50": 0.63007, - "ndcg_at_100": 0.6448, - "ndcg_at_1000": 0.66394, - "map_at_1": 0.1643, - "map_at_3": 0.29876, - "map_at_5": 0.36579, - "map_at_10": 0.43252, - "map_at_50": 0.48153, - "map_at_100": 0.48488, - "map_at_1000": 0.4866, - "recall_at_1": 0.1643, - "recall_at_3": 0.33175, - "recall_at_5": 0.43555, - "recall_at_10": 0.56891, - "recall_at_50": 0.78908, - "recall_at_100": 0.84329, - "recall_at_1000": 0.94076, - "precision_at_1": 0.5963, - "precision_at_3": 0.47107, - "precision_at_5": 0.39737, - "precision_at_10": 0.27993, - "precision_at_50": 0.08156, - "precision_at_100": 0.04356, - "precision_at_1000": 0.00478, - "mrr_at_1": 0.5963, - "mrr_at_3": 0.66537, - "mrr_at_5": 0.67766, - "mrr_at_10": 0.68507, - "mrr_at_50": 0.68897, - "mrr_at_100": 0.68917, - "mrr_at_1000": 0.68932 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.5208, - "ndcg_at_3": 0.4776, - "ndcg_at_5": 0.4858, - "ndcg_at_10": 0.52184, - "ndcg_at_50": 0.57757, - "ndcg_at_100": 0.5888, - "ndcg_at_1000": 0.61014, - "map_at_1": 0.2416, - "map_at_3": 0.36881, - "map_at_5": 0.40324, - "map_at_10": 0.43266, - "map_at_50": 0.45475, - "map_at_100": 0.45667, - "map_at_1000": 0.45805, - "recall_at_1": 0.2416, - "recall_at_3": 0.41719, - "recall_at_5": 0.48758, - "recall_at_10": 0.58684, - "recall_at_50": 0.75583, - "recall_at_100": 0.80427, - "recall_at_1000": 0.9305, - "precision_at_1": 0.5208, - "precision_at_3": 0.34564, - "precision_at_5": 0.25776, - "precision_at_10": 0.16221, - "precision_at_50": 0.04442, - "precision_at_100": 0.02384, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.5208, - "mrr_at_3": 0.58963, - "mrr_at_5": 0.6036, - "mrr_at_10": 0.61364, - "mrr_at_50": 0.61854, - "mrr_at_100": 0.61883, - "mrr_at_1000": 0.61906 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.42461, - "ndcg_at_3": 0.44159, - "ndcg_at_5": 0.45709, - "ndcg_at_10": 0.48096, - "ndcg_at_50": 0.51888, - "ndcg_at_100": 0.52686, - "ndcg_at_1000": 0.54444, - "map_at_1": 0.26544, - "map_at_3": 0.36951, - "map_at_5": 0.39812, - "map_at_10": 0.42048, - "map_at_50": 0.43607, - "map_at_100": 0.43723, - "map_at_1000": 0.43811, - "recall_at_1": 0.26544, - "recall_at_3": 0.42472, - "recall_at_5": 0.49094, - "recall_at_10": 0.5609, - "recall_at_50": 0.6829, - "recall_at_100": 0.72166, - "recall_at_1000": 0.84639, - "precision_at_1": 0.42461, - "precision_at_3": 0.26856, - "precision_at_5": 0.19773, - "precision_at_10": 0.12265, - "precision_at_50": 0.0322, - "precision_at_100": 0.01704, - "precision_at_1000": 0.00192, - "mrr_at_1": 0.42461, - "mrr_at_3": 0.48906, - "mrr_at_5": 0.49951, - "mrr_at_10": 0.50585, - "mrr_at_50": 0.50962, - "mrr_at_100": 0.51005, - "mrr_at_1000": 0.51044 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.60394, - "ndcg_at_3": 0.53776, - "ndcg_at_5": 0.54757, - "ndcg_at_10": 0.57175, - "ndcg_at_50": 0.60746, - "ndcg_at_100": 0.61591, - "ndcg_at_1000": 0.63138, - "map_at_1": 0.35658, - "map_at_3": 0.44565, - "map_at_5": 0.47262, - "map_at_10": 0.49177, - "map_at_50": 0.50555, - "map_at_100": 0.50695, - "map_at_1000": 0.50789, - "recall_at_1": 0.35658, - "recall_at_3": 0.49155, - "recall_at_5": 0.55078, - "recall_at_10": 0.61707, - "recall_at_50": 0.73001, - "recall_at_100": 0.76624, - "recall_at_1000": 0.85881, - "precision_at_1": 0.60394, - "precision_at_3": 0.31944, - "precision_at_5": 0.22849, - "precision_at_10": 0.1355, - "precision_at_50": 0.03437, - "precision_at_100": 0.01838, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.60394, - "mrr_at_3": 0.6629, - "mrr_at_5": 0.67156, - "mrr_at_10": 0.67764, - "mrr_at_50": 0.68072, - "mrr_at_100": 0.68093, - "mrr_at_1000": 0.6811 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.41017, - "ndcg_at_3": 0.3589, - "ndcg_at_5": 0.36246, - "ndcg_at_10": 0.39201, - "ndcg_at_50": 0.45218, - "ndcg_at_100": 0.46852, - "ndcg_at_1000": 0.49838, - "map_at_1": 0.17446, - "map_at_3": 0.25146, - "map_at_5": 0.27751, - "map_at_10": 0.30242, - "map_at_50": 0.32492, - "map_at_100": 0.32757, - "map_at_1000": 0.32957, - "recall_at_1": 0.17446, - "recall_at_3": 0.2949, - "recall_at_5": 0.3577, - "recall_at_10": 0.44434, - "recall_at_50": 0.62838, - "recall_at_100": 0.69886, - "recall_at_1000": 0.87308, - "precision_at_1": 0.41017, - "precision_at_3": 0.26189, - "precision_at_5": 0.20012, - "precision_at_10": 0.13131, - "precision_at_50": 0.03949, - "precision_at_100": 0.02214, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.41017, - "mrr_at_3": 0.48094, - "mrr_at_5": 0.49457, - "mrr_at_10": 0.50389, - "mrr_at_50": 0.51012, - "mrr_at_100": 0.51062, - "mrr_at_1000": 0.51096 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.44288, - "ndcg_at_3": 0.41393, - "ndcg_at_5": 0.41534, - "ndcg_at_10": 0.43963, - "ndcg_at_50": 0.49626, - "ndcg_at_100": 0.51029, - "ndcg_at_1000": 0.53451, - "map_at_1": 0.21226, - "map_at_3": 0.29243, - "map_at_5": 0.32188, - "map_at_10": 0.34974, - "map_at_50": 0.37281, - "map_at_100": 0.37522, - "map_at_1000": 0.37687, - "recall_at_1": 0.21226, - "recall_at_3": 0.3444, - "recall_at_5": 0.41011, - "recall_at_10": 0.49434, - "recall_at_50": 0.65787, - "recall_at_100": 0.71596, - "recall_at_1000": 0.85295, - "precision_at_1": 0.44288, - "precision_at_3": 0.28822, - "precision_at_5": 0.22238, - "precision_at_10": 0.1471, - "precision_at_50": 0.04306, - "precision_at_100": 0.02372, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.44288, - "mrr_at_3": 0.52031, - "mrr_at_5": 0.53361, - "mrr_at_10": 0.54235, - "mrr_at_50": 0.54773, - "mrr_at_100": 0.54822, - "mrr_at_1000": 0.54847 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.57514, - "ndcg_at_3": 0.5132, - "ndcg_at_5": 0.51326, - "ndcg_at_10": 0.5581, - "ndcg_at_50": 0.63859, - "ndcg_at_100": 0.65474, - "ndcg_at_1000": 0.6693, - "map_at_1": 0.19183, - "map_at_3": 0.32841, - "map_at_5": 0.38637, - "map_at_10": 0.44118, - "map_at_50": 0.48028, - "map_at_100": 0.48323, - "map_at_1000": 0.48455, - "recall_at_1": 0.19183, - "recall_at_3": 0.38171, - "recall_at_5": 0.48333, - "recall_at_10": 0.6179, - "recall_at_50": 0.84619, - "recall_at_100": 0.91684, - "recall_at_1000": 0.99455, - "precision_at_1": 0.57514, - "precision_at_3": 0.42293, - "precision_at_5": 0.34393, - "precision_at_10": 0.23324, - "precision_at_50": 0.06613, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.57514, - "mrr_at_3": 0.66233, - "mrr_at_5": 0.67722, - "mrr_at_10": 0.6837, - "mrr_at_50": 0.68732, - "mrr_at_100": 0.68782, - "mrr_at_1000": 0.68787 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.55556, - "ndcg_at_3": 0.51011, - "ndcg_at_5": 0.49965, - "ndcg_at_10": 0.5435, - "ndcg_at_50": 0.62861, - "ndcg_at_100": 0.64404, - "ndcg_at_1000": 0.66094, - "map_at_1": 0.16149, - "map_at_3": 0.29462, - "map_at_5": 0.3568, - "map_at_10": 0.42625, - "map_at_50": 0.46978, - "map_at_100": 0.47287, - "map_at_1000": 0.47423, - "recall_at_1": 0.16149, - "recall_at_3": 0.33907, - "recall_at_5": 0.44336, - "recall_at_10": 0.59812, - "recall_at_50": 0.83389, - "recall_at_100": 0.89603, - "recall_at_1000": 0.99289, - "precision_at_1": 0.55556, - "precision_at_3": 0.44545, - "precision_at_5": 0.36937, - "precision_at_10": 0.26246, - "precision_at_50": 0.07435, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00427, - "mrr_at_1": 0.55556, - "mrr_at_3": 0.64164, - "mrr_at_5": 0.6538, - "mrr_at_10": 0.6619, - "mrr_at_50": 0.66527, - "mrr_at_100": 0.66561, - "mrr_at_1000": 0.6658 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.56805, - "ndcg_at_3": 0.49334, - "ndcg_at_5": 0.48483, - "ndcg_at_10": 0.51206, - "ndcg_at_50": 0.60463, - "ndcg_at_100": 0.61915, - "ndcg_at_1000": 0.64206, - "map_at_1": 0.16354, - "map_at_3": 0.28597, - "map_at_5": 0.34488, - "map_at_10": 0.39723, - "map_at_50": 0.44201, - "map_at_100": 0.44499, - "map_at_1000": 0.44704, - "recall_at_1": 0.16354, - "recall_at_3": 0.31899, - "recall_at_5": 0.42457, - "recall_at_10": 0.55045, - "recall_at_50": 0.81183, - "recall_at_100": 0.86886, - "recall_at_1000": 0.99492, - "precision_at_1": 0.56805, - "precision_at_3": 0.4211, - "precision_at_5": 0.34852, - "precision_at_10": 0.23728, - "precision_at_50": 0.07112, - "precision_at_100": 0.03811, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.56805, - "mrr_at_3": 0.63609, - "mrr_at_5": 0.64985, - "mrr_at_10": 0.65826, - "mrr_at_50": 0.66303, - "mrr_at_100": 0.66329, - "mrr_at_1000": 0.66354 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.66372, - "ndcg_at_3": 0.57587, - "ndcg_at_5": 0.57865, - "ndcg_at_10": 0.62721, - "ndcg_at_50": 0.6976, - "ndcg_at_100": 0.70987, - "ndcg_at_1000": 0.72156, - "map_at_1": 0.21895, - "map_at_3": 0.37631, - "map_at_5": 0.44559, - "map_at_10": 0.50898, - "map_at_50": 0.54572, - "map_at_100": 0.54815, - "map_at_1000": 0.54928, - "recall_at_1": 0.21895, - "recall_at_3": 0.42361, - "recall_at_5": 0.53931, - "recall_at_10": 0.68932, - "recall_at_50": 0.88462, - "recall_at_100": 0.93553, - "recall_at_1000": 0.99853, - "precision_at_1": 0.66372, - "precision_at_3": 0.48279, - "precision_at_5": 0.39174, - "precision_at_10": 0.26195, - "precision_at_50": 0.0692, - "precision_at_100": 0.03649, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.66372, - "mrr_at_3": 0.73402, - "mrr_at_5": 0.74479, - "mrr_at_10": 0.7524, - "mrr_at_50": 0.75537, - "mrr_at_100": 0.75565, - "mrr_at_1000": 0.75571 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.70652, - "ndcg_at_3": 0.65353, - "ndcg_at_5": 0.6322, - "ndcg_at_10": 0.66618, - "ndcg_at_50": 0.74937, - "ndcg_at_100": 0.75904, - "ndcg_at_1000": 0.7663, - "map_at_1": 0.25322, - "map_at_3": 0.43503, - "map_at_5": 0.49582, - "map_at_10": 0.55475, - "map_at_50": 0.60048, - "map_at_100": 0.60282, - "map_at_1000": 0.60352, - "recall_at_1": 0.25322, - "recall_at_3": 0.48573, - "recall_at_5": 0.58005, - "recall_at_10": 0.70654, - "recall_at_50": 0.92532, - "recall_at_100": 0.96113, - "recall_at_1000": 0.99909, - "precision_at_1": 0.70652, - "precision_at_3": 0.53442, - "precision_at_5": 0.41304, - "precision_at_10": 0.26739, - "precision_at_50": 0.07451, - "precision_at_100": 0.03899, - "precision_at_1000": 0.00403, - "mrr_at_1": 0.70652, - "mrr_at_3": 0.7894, - "mrr_at_5": 0.7966, - "mrr_at_10": 0.80008, - "mrr_at_50": 0.80266, - "mrr_at_100": 0.80266, - "mrr_at_1000": 0.80271 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.58333, - "ndcg_at_3": 0.51394, - "ndcg_at_5": 0.51216, - "ndcg_at_10": 0.54856, - "ndcg_at_50": 0.61215, - "ndcg_at_100": 0.63036, - "ndcg_at_1000": 0.65033, - "map_at_1": 0.2545, - "map_at_3": 0.38306, - "map_at_5": 0.42324, - "map_at_10": 0.45568, - "map_at_50": 0.48304, - "map_at_100": 0.48618, - "map_at_1000": 0.48769, - "recall_at_1": 0.2545, - "recall_at_3": 0.42599, - "recall_at_5": 0.50014, - "recall_at_10": 0.60057, - "recall_at_50": 0.79311, - "recall_at_100": 0.87284, - "recall_at_1000": 0.99122, - "precision_at_1": 0.58333, - "precision_at_3": 0.37599, - "precision_at_5": 0.28036, - "precision_at_10": 0.17827, - "precision_at_50": 0.05006, - "precision_at_100": 0.02771, - "precision_at_1000": 0.0031, - "mrr_at_1": 0.58333, - "mrr_at_3": 0.64435, - "mrr_at_5": 0.65193, - "mrr_at_10": 0.66145, - "mrr_at_50": 0.66541, - "mrr_at_100": 0.6658, - "mrr_at_1000": 0.66605 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.57465, - "ndcg_at_3": 0.51503, - "ndcg_at_5": 0.52208, - "ndcg_at_10": 0.57196, - "ndcg_at_50": 0.63729, - "ndcg_at_100": 0.65284, - "ndcg_at_1000": 0.66568, - "map_at_1": 0.27543, - "map_at_3": 0.39985, - "map_at_5": 0.43196, - "map_at_10": 0.46768, - "map_at_50": 0.49345, - "map_at_100": 0.4963, - "map_at_1000": 0.4973, - "recall_at_1": 0.27543, - "recall_at_3": 0.45376, - "recall_at_5": 0.52477, - "recall_at_10": 0.65118, - "recall_at_50": 0.85812, - "recall_at_100": 0.92506, - "recall_at_1000": 1.0, - "precision_at_1": 0.57465, - "precision_at_3": 0.3615, - "precision_at_5": 0.2631, - "precision_at_10": 0.16958, - "precision_at_50": 0.04682, - "precision_at_100": 0.02558, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.57465, - "mrr_at_3": 0.66244, - "mrr_at_5": 0.67286, - "mrr_at_10": 0.68125, - "mrr_at_50": 0.68587, - "mrr_at_100": 0.68612, - "mrr_at_1000": 0.68623 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.59944, - "ndcg_at_3": 0.53913, - "ndcg_at_5": 0.54973, - "ndcg_at_10": 0.58861, - "ndcg_at_50": 0.65379, - "ndcg_at_100": 0.66522, - "ndcg_at_1000": 0.68182, - "map_at_1": 0.29715, - "map_at_3": 0.43029, - "map_at_5": 0.46478, - "map_at_10": 0.49464, - "map_at_50": 0.51969, - "map_at_100": 0.52163, - "map_at_1000": 0.52301, - "recall_at_1": 0.29715, - "recall_at_3": 0.48181, - "recall_at_5": 0.55711, - "recall_at_10": 0.65225, - "recall_at_50": 0.86073, - "recall_at_100": 0.90924, - "recall_at_1000": 1.0, - "precision_at_1": 0.59944, - "precision_at_3": 0.37162, - "precision_at_5": 0.27003, - "precision_at_10": 0.16611, - "precision_at_50": 0.04583, - "precision_at_100": 0.02459, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.59944, - "mrr_at_3": 0.67274, - "mrr_at_5": 0.68576, - "mrr_at_10": 0.69178, - "mrr_at_50": 0.69717, - "mrr_at_100": 0.69746, - "mrr_at_1000": 0.69755 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.54032, - "ndcg_at_3": 0.5044, - "ndcg_at_5": 0.52525, - "ndcg_at_10": 0.56595, - "ndcg_at_50": 0.62662, - "ndcg_at_100": 0.64131, - "ndcg_at_1000": 0.6598, - "map_at_1": 0.29279, - "map_at_3": 0.40656, - "map_at_5": 0.44469, - "map_at_10": 0.47171, - "map_at_50": 0.49495, - "map_at_100": 0.49752, - "map_at_1000": 0.49913, - "recall_at_1": 0.29279, - "recall_at_3": 0.46109, - "recall_at_5": 0.54716, - "recall_at_10": 0.64455, - "recall_at_50": 0.83163, - "recall_at_100": 0.89626, - "recall_at_1000": 1.0, - "precision_at_1": 0.54032, - "precision_at_3": 0.33244, - "precision_at_5": 0.25161, - "precision_at_10": 0.15726, - "precision_at_50": 0.04425, - "precision_at_100": 0.02414, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.54032, - "mrr_at_3": 0.62679, - "mrr_at_5": 0.64319, - "mrr_at_10": 0.65217, - "mrr_at_50": 0.65589, - "mrr_at_100": 0.65621, - "mrr_at_1000": 0.65643 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.52732, - "ndcg_at_3": 0.46718, - "ndcg_at_5": 0.47397, - "ndcg_at_10": 0.51656, - "ndcg_at_50": 0.59717, - "ndcg_at_100": 0.61337, - "ndcg_at_1000": 0.63242, - "map_at_1": 0.23187, - "map_at_3": 0.33937, - "map_at_5": 0.37874, - "map_at_10": 0.4132, - "map_at_50": 0.44691, - "map_at_100": 0.44971, - "map_at_1000": 0.45122, - "recall_at_1": 0.23187, - "recall_at_3": 0.38992, - "recall_at_5": 0.46815, - "recall_at_10": 0.57721, - "recall_at_50": 0.81894, - "recall_at_100": 0.8896, - "recall_at_1000": 0.99966, - "precision_at_1": 0.52732, - "precision_at_3": 0.33607, - "precision_at_5": 0.26066, - "precision_at_10": 0.1724, - "precision_at_50": 0.05202, - "precision_at_100": 0.02825, - "precision_at_1000": 0.00313, - "mrr_at_1": 0.52732, - "mrr_at_3": 0.61111, - "mrr_at_5": 0.62272, - "mrr_at_10": 0.63472, - "mrr_at_50": 0.64033, - "mrr_at_100": 0.64061, - "mrr_at_1000": 0.64083 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.56486, - "ndcg_at_3": 0.54634, - "ndcg_at_5": 0.57762, - "ndcg_at_10": 0.62089, - "ndcg_at_50": 0.68418, - "ndcg_at_100": 0.69211, - "ndcg_at_1000": 0.69474, - "map_at_1": 0.29429, - "map_at_3": 0.4431, - "map_at_5": 0.49019, - "map_at_10": 0.52109, - "map_at_50": 0.54749, - "map_at_100": 0.54883, - "map_at_1000": 0.54903, - "recall_at_1": 0.29429, - "recall_at_3": 0.52525, - "recall_at_5": 0.62948, - "recall_at_10": 0.73384, - "recall_at_50": 0.94563, - "recall_at_100": 0.98378, - "recall_at_1000": 1.0, - "precision_at_1": 0.56486, - "precision_at_3": 0.36306, - "precision_at_5": 0.27622, - "precision_at_10": 0.16946, - "precision_at_50": 0.04492, - "precision_at_100": 0.02335, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.56486, - "mrr_at_3": 0.65901, - "mrr_at_5": 0.67306, - "mrr_at_10": 0.68018, - "mrr_at_50": 0.68466, - "mrr_at_100": 0.68487, - "mrr_at_1000": 0.68492 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.37423, - "ndcg_at_3": 0.40591, - "ndcg_at_5": 0.44045, - "ndcg_at_10": 0.49089, - "ndcg_at_50": 0.5507, - "ndcg_at_100": 0.56124, - "ndcg_at_1000": 0.57528, - "map_at_1": 0.23587, - "map_at_3": 0.33983, - "map_at_5": 0.37152, - "map_at_10": 0.40319, - "map_at_50": 0.42235, - "map_at_100": 0.4237, - "map_at_1000": 0.42464, - "recall_at_1": 0.23587, - "recall_at_3": 0.41727, - "recall_at_5": 0.50791, - "recall_at_10": 0.63475, - "recall_at_50": 0.85419, - "recall_at_100": 0.90874, - "recall_at_1000": 1.0, - "precision_at_1": 0.37423, - "precision_at_3": 0.2546, - "precision_at_5": 0.1908, - "precision_at_10": 0.12393, - "precision_at_50": 0.03362, - "precision_at_100": 0.01785, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.37423, - "mrr_at_3": 0.47597, - "mrr_at_5": 0.49254, - "mrr_at_10": 0.50415, - "mrr_at_50": 0.51215, - "mrr_at_100": 0.51264, - "mrr_at_1000": 0.51288 - }, - "gpt3": { - "ndcg_at_1": 0.34125, - "ndcg_at_3": 0.42531, - "ndcg_at_5": 0.45443, - "ndcg_at_10": 0.48819, - "ndcg_at_50": 0.5528, - "ndcg_at_100": 0.56239, - "ndcg_at_1000": 0.57082, - "map_at_1": 0.28264, - "map_at_3": 0.38427, - "map_at_5": 0.40247, - "map_at_10": 0.41933, - "map_at_50": 0.43678, - "map_at_100": 0.43793, - "map_at_1000": 0.43845, - "recall_at_1": 0.28264, - "recall_at_3": 0.48516, - "recall_at_5": 0.5502, - "recall_at_10": 0.63773, - "recall_at_50": 0.89194, - "recall_at_100": 0.94362, - "recall_at_1000": 1.0, - "precision_at_1": 0.34125, - "precision_at_3": 0.21464, - "precision_at_5": 0.14896, - "precision_at_10": 0.09021, - "precision_at_50": 0.02588, - "precision_at_100": 0.0138, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.34125, - "mrr_at_3": 0.43769, - "mrr_at_5": 0.45475, - "mrr_at_10": 0.467, - "mrr_at_50": 0.47854, - "mrr_at_100": 0.47907, - "mrr_at_1000": 0.47921 - }, - "llm-survey": { - "ndcg_at_1": 0.40616, - "ndcg_at_3": 0.38747, - "ndcg_at_5": 0.39988, - "ndcg_at_10": 0.44367, - "ndcg_at_50": 0.51973, - "ndcg_at_100": 0.53741, - "ndcg_at_1000": 0.55728, - "map_at_1": 0.1821, - "map_at_3": 0.29133, - "map_at_5": 0.32079, - "map_at_10": 0.35184, - "map_at_50": 0.37927, - "map_at_100": 0.382, - "map_at_1000": 0.38322, - "recall_at_1": 0.1821, - "recall_at_3": 0.34812, - "recall_at_5": 0.41894, - "recall_at_10": 0.53471, - "recall_at_50": 0.78875, - "recall_at_100": 0.87352, - "recall_at_1000": 1.0, - "precision_at_1": 0.40616, - "precision_at_3": 0.28852, - "precision_at_5": 0.21401, - "precision_at_10": 0.14006, - "precision_at_50": 0.0419, - "precision_at_100": 0.02305, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.40616, - "mrr_at_3": 0.49206, - "mrr_at_5": 0.50341, - "mrr_at_10": 0.5135, - "mrr_at_50": 0.52241, - "mrr_at_100": 0.5229, - "mrr_at_1000": 0.5232 - }, - "gemini": { - "ndcg_at_1": 0.36546, - "ndcg_at_3": 0.49885, - "ndcg_at_5": 0.52339, - "ndcg_at_10": 0.55375, - "ndcg_at_50": 0.58716, - "ndcg_at_100": 0.59513, - "ndcg_at_1000": 0.60235, - "map_at_1": 0.36546, - "map_at_3": 0.46586, - "map_at_5": 0.47932, - "map_at_10": 0.49215, - "map_at_50": 0.49916, - "map_at_100": 0.49991, - "map_at_1000": 0.50026, - "recall_at_1": 0.36546, - "recall_at_3": 0.59438, - "recall_at_5": 0.65462, - "recall_at_10": 0.74699, - "recall_at_50": 0.8996, - "recall_at_100": 0.94779, - "recall_at_1000": 1.0, - "precision_at_1": 0.36546, - "precision_at_3": 0.19813, - "precision_at_5": 0.13092, - "precision_at_10": 0.0747, - "precision_at_50": 0.01799, - "precision_at_100": 0.00948, - "precision_at_1000": 0.001, - "mrr_at_1": 0.36546, - "mrr_at_3": 0.46586, - "mrr_at_5": 0.47932, - "mrr_at_10": 0.49215, - "mrr_at_50": 0.49916, - "mrr_at_100": 0.49991, - "mrr_at_1000": 0.50026 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.25986, - "ndcg_at_3": 0.24429, - "ndcg_at_5": 0.24763, - "ndcg_at_10": 0.26879, - "ndcg_at_50": 0.30503, - "ndcg_at_100": 0.3101, - "ndcg_at_1000": 0.3101, - "map_at_1": 0.10229, - "map_at_3": 0.16204, - "map_at_5": 0.18454, - "map_at_10": 0.20961, - "map_at_50": 0.22587, - "map_at_100": 0.22662, - "map_at_1000": 0.22662, - "recall_at_1": 0.10229, - "recall_at_3": 0.19315, - "recall_at_5": 0.23968, - "recall_at_10": 0.30875, - "recall_at_50": 0.41271, - "recall_at_100": 0.43533, - "recall_at_1000": 0.43533, - "precision_at_1": 0.25986, - "precision_at_3": 0.19045, - "precision_at_5": 0.15336, - "precision_at_10": 0.10694, - "precision_at_50": 0.03001, - "precision_at_100": 0.01571, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.25986, - "mrr_at_3": 0.31149, - "mrr_at_5": 0.32246, - "mrr_at_10": 0.32904, - "mrr_at_50": 0.33313, - "mrr_at_100": 0.3334, - "mrr_at_1000": 0.3334 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.40768, - "ndcg_at_3": 0.42177, - "ndcg_at_5": 0.43869, - "ndcg_at_10": 0.47415, - "ndcg_at_50": 0.53752, - "ndcg_at_100": 0.54351, - "ndcg_at_1000": 0.54351, - "map_at_1": 0.18116, - "map_at_3": 0.28826, - "map_at_5": 0.33404, - "map_at_10": 0.3816, - "map_at_50": 0.41504, - "map_at_100": 0.41617, - "map_at_1000": 0.41617, - "recall_at_1": 0.18116, - "recall_at_3": 0.3439, - "recall_at_5": 0.43641, - "recall_at_10": 0.55519, - "recall_at_50": 0.72548, - "recall_at_100": 0.75003, - "recall_at_1000": 0.75003, - "precision_at_1": 0.40768, - "precision_at_3": 0.32032, - "precision_at_5": 0.27001, - "precision_at_10": 0.19312, - "precision_at_50": 0.05518, - "precision_at_100": 0.02851, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.40768, - "mrr_at_3": 0.50041, - "mrr_at_5": 0.52033, - "mrr_at_10": 0.53108, - "mrr_at_50": 0.53473, - "mrr_at_100": 0.5349, - "mrr_at_1000": 0.5349 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.4765, - "ndcg_at_3": 0.44686, - "ndcg_at_5": 0.44223, - "ndcg_at_10": 0.47537, - "ndcg_at_50": 0.58249, - "ndcg_at_100": 0.59587, - "ndcg_at_1000": 0.59587, - "map_at_1": 0.13352, - "map_at_3": 0.24323, - "map_at_5": 0.29792, - "map_at_10": 0.36243, - "map_at_50": 0.41896, - "map_at_100": 0.42216, - "map_at_1000": 0.42216, - "recall_at_1": 0.13352, - "recall_at_3": 0.28164, - "recall_at_5": 0.37542, - "recall_at_10": 0.52198, - "recall_at_50": 0.79377, - "recall_at_100": 0.84329, - "recall_at_1000": 0.84329, - "precision_at_1": 0.4765, - "precision_at_3": 0.39052, - "precision_at_5": 0.33702, - "precision_at_10": 0.25389, - "precision_at_50": 0.08215, - "precision_at_100": 0.04356, - "precision_at_1000": 0.00436, - "mrr_at_1": 0.47666, - "mrr_at_3": 0.56475, - "mrr_at_5": 0.58287, - "mrr_at_10": 0.5943, - "mrr_at_50": 0.5996, - "mrr_at_100": 0.59978, - "mrr_at_1000": 0.59978 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.41945, - "ndcg_at_3": 0.39703, - "ndcg_at_5": 0.41821, - "ndcg_at_10": 0.46538, - "ndcg_at_50": 0.53517, - "ndcg_at_100": 0.54198, - "ndcg_at_1000": 0.54198, - "map_at_1": 0.18873, - "map_at_3": 0.29408, - "map_at_5": 0.33135, - "map_at_10": 0.36687, - "map_at_50": 0.39469, - "map_at_100": 0.39591, - "map_at_1000": 0.39591, - "recall_at_1": 0.18873, - "recall_at_3": 0.35075, - "recall_at_5": 0.43674, - "recall_at_10": 0.55818, - "recall_at_50": 0.77389, - "recall_at_100": 0.80427, - "recall_at_1000": 0.80427, - "precision_at_1": 0.41945, - "precision_at_3": 0.2933, - "precision_at_5": 0.23327, - "precision_at_10": 0.15741, - "precision_at_50": 0.04589, - "precision_at_100": 0.02384, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.41945, - "mrr_at_3": 0.50693, - "mrr_at_5": 0.52547, - "mrr_at_10": 0.5379, - "mrr_at_50": 0.54397, - "mrr_at_100": 0.54415, - "mrr_at_1000": 0.54415 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.40946, - "ndcg_at_3": 0.43405, - "ndcg_at_5": 0.45654, - "ndcg_at_10": 0.48456, - "ndcg_at_50": 0.52187, - "ndcg_at_100": 0.5266, - "ndcg_at_1000": 0.5266, - "map_at_1": 0.2557, - "map_at_3": 0.36159, - "map_at_5": 0.39599, - "map_at_10": 0.42203, - "map_at_50": 0.43778, - "map_at_100": 0.43841, - "map_at_1000": 0.43841, - "recall_at_1": 0.2557, - "recall_at_3": 0.41958, - "recall_at_5": 0.49732, - "recall_at_10": 0.5757, - "recall_at_50": 0.69668, - "recall_at_100": 0.72166, - "recall_at_1000": 0.72166, - "precision_at_1": 0.40946, - "precision_at_3": 0.26772, - "precision_at_5": 0.20517, - "precision_at_10": 0.12991, - "precision_at_50": 0.03319, - "precision_at_100": 0.01704, - "precision_at_1000": 0.0017, - "mrr_at_1": 0.40946, - "mrr_at_3": 0.47939, - "mrr_at_5": 0.49131, - "mrr_at_10": 0.49826, - "mrr_at_50": 0.50219, - "mrr_at_100": 0.50251, - "mrr_at_1000": 0.50251 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.63578, - "ndcg_at_3": 0.58253, - "ndcg_at_5": 0.59587, - "ndcg_at_10": 0.6258, - "ndcg_at_50": 0.65181, - "ndcg_at_100": 0.65354, - "ndcg_at_1000": 0.65354, - "map_at_1": 0.37799, - "map_at_3": 0.48956, - "map_at_5": 0.5205, - "map_at_10": 0.54664, - "map_at_50": 0.55841, - "map_at_100": 0.5587, - "map_at_1000": 0.5587, - "recall_at_1": 0.37799, - "recall_at_3": 0.53679, - "recall_at_5": 0.60533, - "recall_at_10": 0.68106, - "recall_at_50": 0.75876, - "recall_at_100": 0.76624, - "recall_at_1000": 0.76624, - "precision_at_1": 0.63578, - "precision_at_3": 0.35244, - "precision_at_5": 0.25339, - "precision_at_10": 0.15426, - "precision_at_50": 0.03629, - "precision_at_100": 0.01838, - "precision_at_1000": 0.00184, - "mrr_at_1": 0.63578, - "mrr_at_3": 0.696, - "mrr_at_5": 0.70631, - "mrr_at_10": 0.71097, - "mrr_at_50": 0.71274, - "mrr_at_100": 0.71278, - "mrr_at_1000": 0.71278 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.39341, - "ndcg_at_3": 0.37735, - "ndcg_at_5": 0.39048, - "ndcg_at_10": 0.43039, - "ndcg_at_50": 0.48748, - "ndcg_at_100": 0.49125, - "ndcg_at_1000": 0.49125, - "map_at_1": 0.16511, - "map_at_3": 0.25825, - "map_at_5": 0.29383, - "map_at_10": 0.32941, - "map_at_50": 0.35412, - "map_at_100": 0.35471, - "map_at_1000": 0.35471, - "recall_at_1": 0.16511, - "recall_at_3": 0.32178, - "recall_at_5": 0.40099, - "recall_at_10": 0.51006, - "recall_at_50": 0.68133, - "recall_at_100": 0.69886, - "recall_at_1000": 0.69886, - "precision_at_1": 0.39341, - "precision_at_3": 0.28635, - "precision_at_5": 0.2305, - "precision_at_10": 0.15719, - "precision_at_50": 0.04335, - "precision_at_100": 0.02214, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.39341, - "mrr_at_3": 0.49316, - "mrr_at_5": 0.50905, - "mrr_at_10": 0.51828, - "mrr_at_50": 0.52289, - "mrr_at_100": 0.52302, - "mrr_at_1000": 0.52302 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.42999, - "ndcg_at_3": 0.42191, - "ndcg_at_5": 0.43476, - "ndcg_at_10": 0.46758, - "ndcg_at_50": 0.52267, - "ndcg_at_100": 0.52775, - "ndcg_at_1000": 0.52775, - "map_at_1": 0.21079, - "map_at_3": 0.30023, - "map_at_5": 0.33691, - "map_at_10": 0.3714, - "map_at_50": 0.39672, - "map_at_100": 0.39762, - "map_at_1000": 0.39762, - "recall_at_1": 0.21079, - "recall_at_3": 0.36131, - "recall_at_5": 0.44184, - "recall_at_10": 0.54325, - "recall_at_50": 0.6943, - "recall_at_100": 0.71596, - "recall_at_1000": 0.71596, - "precision_at_1": 0.42999, - "precision_at_3": 0.29525, - "precision_at_5": 0.24019, - "precision_at_10": 0.16327, - "precision_at_50": 0.04596, - "precision_at_100": 0.02372, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.42999, - "mrr_at_3": 0.52285, - "mrr_at_5": 0.54133, - "mrr_at_10": 0.55115, - "mrr_at_50": 0.5552, - "mrr_at_100": 0.55539, - "mrr_at_1000": 0.55539 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.47688, - "ndcg_at_3": 0.41821, - "ndcg_at_5": 0.43581, - "ndcg_at_10": 0.49524, - "ndcg_at_50": 0.59432, - "ndcg_at_100": 0.60521, - "ndcg_at_1000": 0.60521, - "map_at_1": 0.14932, - "map_at_3": 0.25804, - "map_at_5": 0.31591, - "map_at_10": 0.37517, - "map_at_50": 0.42161, - "map_at_100": 0.42391, - "map_at_1000": 0.42391, - "recall_at_1": 0.14932, - "recall_at_3": 0.30583, - "recall_at_5": 0.42604, - "recall_at_10": 0.58996, - "recall_at_50": 0.871, - "recall_at_100": 0.91684, - "recall_at_1000": 0.91684, - "precision_at_1": 0.47688, - "precision_at_3": 0.35164, - "precision_at_5": 0.30347, - "precision_at_10": 0.21994, - "precision_at_50": 0.0674, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.47688, - "mrr_at_3": 0.55299, - "mrr_at_5": 0.57611, - "mrr_at_10": 0.58931, - "mrr_at_50": 0.59604, - "mrr_at_100": 0.59622, - "mrr_at_1000": 0.59622 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.4955, - "ndcg_at_3": 0.44339, - "ndcg_at_5": 0.43304, - "ndcg_at_10": 0.4803, - "ndcg_at_50": 0.58954, - "ndcg_at_100": 0.60217, - "ndcg_at_1000": 0.60217, - "map_at_1": 0.12761, - "map_at_3": 0.25297, - "map_at_5": 0.30516, - "map_at_10": 0.36973, - "map_at_50": 0.42146, - "map_at_100": 0.42393, - "map_at_1000": 0.42393, - "recall_at_1": 0.12761, - "recall_at_3": 0.29472, - "recall_at_5": 0.38246, - "recall_at_10": 0.53533, - "recall_at_50": 0.84566, - "recall_at_100": 0.89603, - "recall_at_1000": 0.89603, - "precision_at_1": 0.4955, - "precision_at_3": 0.38839, - "precision_at_5": 0.32432, - "precision_at_10": 0.23904, - "precision_at_50": 0.07532, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.4955, - "mrr_at_3": 0.56507, - "mrr_at_5": 0.58083, - "mrr_at_10": 0.59353, - "mrr_at_50": 0.6, - "mrr_at_100": 0.60019, - "mrr_at_1000": 0.60019 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.55325, - "ndcg_at_3": 0.50184, - "ndcg_at_5": 0.49662, - "ndcg_at_10": 0.53461, - "ndcg_at_50": 0.62509, - "ndcg_at_100": 0.63348, - "ndcg_at_1000": 0.63348, - "map_at_1": 0.1653, - "map_at_3": 0.30332, - "map_at_5": 0.36421, - "map_at_10": 0.42604, - "map_at_50": 0.47156, - "map_at_100": 0.47329, - "map_at_1000": 0.47329, - "recall_at_1": 0.1653, - "recall_at_3": 0.34099, - "recall_at_5": 0.44346, - "recall_at_10": 0.5863, - "recall_at_50": 0.83352, - "recall_at_100": 0.86886, - "recall_at_1000": 0.86886, - "precision_at_1": 0.55325, - "precision_at_3": 0.42801, - "precision_at_5": 0.35976, - "precision_at_10": 0.25178, - "precision_at_50": 0.07373, - "precision_at_100": 0.03811, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.55325, - "mrr_at_3": 0.62229, - "mrr_at_5": 0.63575, - "mrr_at_10": 0.64404, - "mrr_at_50": 0.64962, - "mrr_at_100": 0.64977, - "mrr_at_1000": 0.64977 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.51327, - "ndcg_at_3": 0.47883, - "ndcg_at_5": 0.48827, - "ndcg_at_10": 0.54324, - "ndcg_at_50": 0.63193, - "ndcg_at_100": 0.64643, - "ndcg_at_1000": 0.64643, - "map_at_1": 0.16848, - "map_at_3": 0.31112, - "map_at_5": 0.37064, - "map_at_10": 0.43154, - "map_at_50": 0.4744, - "map_at_100": 0.47708, - "map_at_1000": 0.47708, - "recall_at_1": 0.16848, - "recall_at_3": 0.35871, - "recall_at_5": 0.46555, - "recall_at_10": 0.62013, - "recall_at_50": 0.87263, - "recall_at_100": 0.93553, - "recall_at_1000": 0.93553, - "precision_at_1": 0.51327, - "precision_at_3": 0.412, - "precision_at_5": 0.33805, - "precision_at_10": 0.23776, - "precision_at_50": 0.06879, - "precision_at_100": 0.03649, - "precision_at_1000": 0.00365, - "mrr_at_1": 0.51327, - "mrr_at_3": 0.60521, - "mrr_at_5": 0.6238, - "mrr_at_10": 0.63134, - "mrr_at_50": 0.63626, - "mrr_at_100": 0.63672, - "mrr_at_1000": 0.63672 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.6712, - "ndcg_at_3": 0.63052, - "ndcg_at_5": 0.62987, - "ndcg_at_10": 0.67842, - "ndcg_at_50": 0.75682, - "ndcg_at_100": 0.76051, - "ndcg_at_1000": 0.76051, - "map_at_1": 0.24158, - "map_at_3": 0.42164, - "map_at_5": 0.49517, - "map_at_10": 0.56375, - "map_at_50": 0.6101, - "map_at_100": 0.61102, - "map_at_1000": 0.61102, - "recall_at_1": 0.24158, - "recall_at_3": 0.47179, - "recall_at_5": 0.59509, - "recall_at_10": 0.74025, - "recall_at_50": 0.94731, - "recall_at_100": 0.96113, - "recall_at_1000": 0.96113, - "precision_at_1": 0.6712, - "precision_at_3": 0.52264, - "precision_at_5": 0.42391, - "precision_at_10": 0.28668, - "precision_at_50": 0.07674, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.67391, - "mrr_at_3": 0.76268, - "mrr_at_5": 0.77328, - "mrr_at_10": 0.77845, - "mrr_at_50": 0.78066, - "mrr_at_100": 0.78066, - "mrr_at_1000": 0.78066 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.53571, - "ndcg_at_3": 0.49179, - "ndcg_at_5": 0.5057, - "ndcg_at_10": 0.55571, - "ndcg_at_50": 0.62515, - "ndcg_at_100": 0.63194, - "ndcg_at_1000": 0.63194, - "map_at_1": 0.23926, - "map_at_3": 0.37409, - "map_at_5": 0.42087, - "map_at_10": 0.4637, - "map_at_50": 0.49523, - "map_at_100": 0.49638, - "map_at_1000": 0.49638, - "recall_at_1": 0.23926, - "recall_at_3": 0.41108, - "recall_at_5": 0.50355, - "recall_at_10": 0.63527, - "recall_at_50": 0.84288, - "recall_at_100": 0.87284, - "recall_at_1000": 0.87284, - "precision_at_1": 0.53571, - "precision_at_3": 0.36508, - "precision_at_5": 0.2881, - "precision_at_10": 0.19167, - "precision_at_50": 0.05357, - "precision_at_100": 0.02771, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.53571, - "mrr_at_3": 0.59673, - "mrr_at_5": 0.61324, - "mrr_at_10": 0.62265, - "mrr_at_50": 0.62851, - "mrr_at_100": 0.62871, - "mrr_at_1000": 0.62871 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.59437, - "ndcg_at_3": 0.55015, - "ndcg_at_5": 0.5729, - "ndcg_at_10": 0.61766, - "ndcg_at_50": 0.68149, - "ndcg_at_100": 0.68595, - "ndcg_at_1000": 0.68595, - "map_at_1": 0.27323, - "map_at_3": 0.42764, - "map_at_5": 0.47652, - "map_at_10": 0.5125, - "map_at_50": 0.5414, - "map_at_100": 0.54221, - "map_at_1000": 0.54221, - "recall_at_1": 0.27323, - "recall_at_3": 0.50132, - "recall_at_5": 0.60539, - "recall_at_10": 0.71187, - "recall_at_50": 0.9052, - "recall_at_100": 0.92506, - "recall_at_1000": 0.92506, - "precision_at_1": 0.59437, - "precision_at_3": 0.39812, - "precision_at_5": 0.30141, - "precision_at_10": 0.18873, - "precision_at_50": 0.05003, - "precision_at_100": 0.02558, - "precision_at_1000": 0.00256, - "mrr_at_1": 0.59437, - "mrr_at_3": 0.68545, - "mrr_at_5": 0.697, - "mrr_at_10": 0.70427, - "mrr_at_50": 0.70847, - "mrr_at_100": 0.70857, - "mrr_at_1000": 0.70857 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.56303, - "ndcg_at_3": 0.51544, - "ndcg_at_5": 0.54392, - "ndcg_at_10": 0.59736, - "ndcg_at_50": 0.657, - "ndcg_at_100": 0.66448, - "ndcg_at_1000": 0.66448, - "map_at_1": 0.28466, - "map_at_3": 0.41336, - "map_at_5": 0.45609, - "map_at_10": 0.49591, - "map_at_50": 0.52208, - "map_at_100": 0.52324, - "map_at_1000": 0.52324, - "recall_at_1": 0.28466, - "recall_at_3": 0.47003, - "recall_at_5": 0.57009, - "recall_at_10": 0.69345, - "recall_at_50": 0.87289, - "recall_at_100": 0.90924, - "recall_at_1000": 0.90924, - "precision_at_1": 0.56303, - "precision_at_3": 0.35294, - "precision_at_5": 0.27339, - "precision_at_10": 0.17843, - "precision_at_50": 0.04751, - "precision_at_100": 0.02459, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.56303, - "mrr_at_3": 0.64146, - "mrr_at_5": 0.65952, - "mrr_at_10": 0.66821, - "mrr_at_50": 0.67273, - "mrr_at_100": 0.67302, - "mrr_at_1000": 0.67302 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.60753, - "ndcg_at_3": 0.56216, - "ndcg_at_5": 0.58478, - "ndcg_at_10": 0.62574, - "ndcg_at_50": 0.68449, - "ndcg_at_100": 0.69105, - "ndcg_at_1000": 0.69105, - "map_at_1": 0.33582, - "map_at_3": 0.46779, - "map_at_5": 0.50806, - "map_at_10": 0.5377, - "map_at_50": 0.56376, - "map_at_100": 0.56487, - "map_at_1000": 0.56487, - "recall_at_1": 0.33582, - "recall_at_3": 0.51333, - "recall_at_5": 0.60095, - "recall_at_10": 0.69365, - "recall_at_50": 0.86635, - "recall_at_100": 0.89626, - "recall_at_1000": 0.89626, - "precision_at_1": 0.60753, - "precision_at_3": 0.3647, - "precision_at_5": 0.27796, - "precision_at_10": 0.17258, - "precision_at_50": 0.04661, - "precision_at_100": 0.02414, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.60753, - "mrr_at_3": 0.67832, - "mrr_at_5": 0.69592, - "mrr_at_10": 0.70224, - "mrr_at_50": 0.70582, - "mrr_at_100": 0.70604, - "mrr_at_1000": 0.70604 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.37432, - "ndcg_at_3": 0.35673, - "ndcg_at_5": 0.37129, - "ndcg_at_10": 0.42101, - "ndcg_at_50": 0.52526, - "ndcg_at_100": 0.53813, - "ndcg_at_1000": 0.53813, - "map_at_1": 0.15482, - "map_at_3": 0.24791, - "map_at_5": 0.28331, - "map_at_10": 0.32111, - "map_at_50": 0.36277, - "map_at_100": 0.3648, - "map_at_1000": 0.3648, - "recall_at_1": 0.15482, - "recall_at_3": 0.30569, - "recall_at_5": 0.38741, - "recall_at_10": 0.50707, - "recall_at_50": 0.82898, - "recall_at_100": 0.8896, - "recall_at_1000": 0.8896, - "precision_at_1": 0.37432, - "precision_at_3": 0.27596, - "precision_at_5": 0.22295, - "precision_at_10": 0.1582, - "precision_at_50": 0.05333, - "precision_at_100": 0.02825, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.37432, - "mrr_at_3": 0.4622, - "mrr_at_5": 0.48037, - "mrr_at_10": 0.49391, - "mrr_at_50": 0.5034, - "mrr_at_100": 0.50389, - "mrr_at_1000": 0.50389 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.44054, - "ndcg_at_3": 0.45794, - "ndcg_at_5": 0.49736, - "ndcg_at_10": 0.55939, - "ndcg_at_50": 0.62986, - "ndcg_at_100": 0.63734, - "ndcg_at_1000": 0.63734, - "map_at_1": 0.24636, - "map_at_3": 0.37228, - "map_at_5": 0.41699, - "map_at_10": 0.45969, - "map_at_50": 0.48601, - "map_at_100": 0.48721, - "map_at_1000": 0.48721, - "recall_at_1": 0.24636, - "recall_at_3": 0.45129, - "recall_at_5": 0.55917, - "recall_at_10": 0.71063, - "recall_at_50": 0.94671, - "recall_at_100": 0.98378, - "recall_at_1000": 0.98378, - "precision_at_1": 0.44054, - "precision_at_3": 0.3018, - "precision_at_5": 0.24108, - "precision_at_10": 0.16216, - "precision_at_50": 0.04508, - "precision_at_100": 0.02335, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.44054, - "mrr_at_3": 0.54595, - "mrr_at_5": 0.565, - "mrr_at_10": 0.57686, - "mrr_at_50": 0.58373, - "mrr_at_100": 0.58392, - "mrr_at_1000": 0.58392 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.35276, - "ndcg_at_3": 0.40896, - "ndcg_at_5": 0.44537, - "ndcg_at_10": 0.50417, - "ndcg_at_50": 0.55753, - "ndcg_at_100": 0.5664, - "ndcg_at_1000": 0.5664, - "map_at_1": 0.23083, - "map_at_3": 0.34505, - "map_at_5": 0.37873, - "map_at_10": 0.41504, - "map_at_50": 0.43324, - "map_at_100": 0.43434, - "map_at_1000": 0.43434, - "recall_at_1": 0.23083, - "recall_at_3": 0.43311, - "recall_at_5": 0.52601, - "recall_at_10": 0.66988, - "recall_at_50": 0.86186, - "recall_at_100": 0.90874, - "recall_at_1000": 0.90874, - "precision_at_1": 0.35276, - "precision_at_3": 0.2546, - "precision_at_5": 0.19509, - "precision_at_10": 0.13221, - "precision_at_50": 0.03417, - "precision_at_100": 0.01785, - "precision_at_1000": 0.00179, - "mrr_at_1": 0.35276, - "mrr_at_3": 0.45859, - "mrr_at_5": 0.47699, - "mrr_at_10": 0.49073, - "mrr_at_50": 0.4982, - "mrr_at_100": 0.4988, - "mrr_at_1000": 0.4988 - }, - "gpt3": { - "ndcg_at_1": 0.30861, - "ndcg_at_3": 0.35142, - "ndcg_at_5": 0.40561, - "ndcg_at_10": 0.45759, - "ndcg_at_50": 0.51886, - "ndcg_at_100": 0.52744, - "ndcg_at_1000": 0.52744, - "map_at_1": 0.24209, - "map_at_3": 0.31466, - "map_at_5": 0.34688, - "map_at_10": 0.37207, - "map_at_50": 0.38901, - "map_at_100": 0.38998, - "map_at_1000": 0.38998, - "recall_at_1": 0.24209, - "recall_at_3": 0.39392, - "recall_at_5": 0.51311, - "recall_at_10": 0.65331, - "recall_at_50": 0.89466, - "recall_at_100": 0.94362, - "recall_at_1000": 0.94362, - "precision_at_1": 0.30861, - "precision_at_3": 0.17112, - "precision_at_5": 0.14006, - "precision_at_10": 0.09258, - "precision_at_50": 0.02629, - "precision_at_100": 0.0138, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.30861, - "mrr_at_3": 0.37982, - "mrr_at_5": 0.41113, - "mrr_at_10": 0.43039, - "mrr_at_50": 0.43992, - "mrr_at_100": 0.44049, - "mrr_at_1000": 0.44049 - }, - "llm-survey": { - "ndcg_at_1": 0.42857, - "ndcg_at_3": 0.41735, - "ndcg_at_5": 0.43824, - "ndcg_at_10": 0.48342, - "ndcg_at_50": 0.55264, - "ndcg_at_100": 0.56452, - "ndcg_at_1000": 0.56452, - "map_at_1": 0.20032, - "map_at_3": 0.32129, - "map_at_5": 0.36013, - "map_at_10": 0.39502, - "map_at_50": 0.41992, - "map_at_100": 0.42153, - "map_at_1000": 0.42153, - "recall_at_1": 0.20032, - "recall_at_3": 0.37905, - "recall_at_5": 0.45993, - "recall_at_10": 0.57615, - "recall_at_50": 0.81446, - "recall_at_100": 0.87352, - "recall_at_1000": 0.87352, - "precision_at_1": 0.42857, - "precision_at_3": 0.30906, - "precision_at_5": 0.23697, - "precision_at_10": 0.15406, - "precision_at_50": 0.04353, - "precision_at_100": 0.02305, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.42857, - "mrr_at_3": 0.51774, - "mrr_at_5": 0.53007, - "mrr_at_10": 0.53935, - "mrr_at_50": 0.54629, - "mrr_at_100": 0.54684, - "mrr_at_1000": 0.54684 - }, - "gemini": { - "ndcg_at_1": 0.38153, - "ndcg_at_3": 0.4977, - "ndcg_at_5": 0.52086, - "ndcg_at_10": 0.55406, - "ndcg_at_50": 0.59498, - "ndcg_at_100": 0.59885, - "ndcg_at_1000": 0.59885, - "map_at_1": 0.38153, - "map_at_3": 0.46854, - "map_at_5": 0.48139, - "map_at_10": 0.49551, - "map_at_50": 0.50435, - "map_at_100": 0.50468, - "map_at_1000": 0.50468, - "recall_at_1": 0.38153, - "recall_at_3": 0.58233, - "recall_at_5": 0.63855, - "recall_at_10": 0.73896, - "recall_at_50": 0.92369, - "recall_at_100": 0.94779, - "recall_at_1000": 0.94779, - "precision_at_1": 0.38153, - "precision_at_3": 0.19411, - "precision_at_5": 0.12771, - "precision_at_10": 0.0739, - "precision_at_50": 0.01847, - "precision_at_100": 0.00948, - "precision_at_1000": 0.00095, - "mrr_at_1": 0.38153, - "mrr_at_3": 0.46854, - "mrr_at_5": 0.48059, - "mrr_at_10": 0.49537, - "mrr_at_50": 0.50422, - "mrr_at_100": 0.50456, - "mrr_at_1000": 0.50456 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.25819, - "ndcg_at_3": 0.24181, - "ndcg_at_5": 0.24399, - "ndcg_at_10": 0.26236, - "ndcg_at_50": 0.30117, - "ndcg_at_100": 0.30756, - "ndcg_at_1000": 0.30756, - "map_at_1": 0.10555, - "map_at_3": 0.16261, - "map_at_5": 0.18354, - "map_at_10": 0.20468, - "map_at_50": 0.22188, - "map_at_100": 0.22284, - "map_at_1000": 0.22284, - "recall_at_1": 0.10555, - "recall_at_3": 0.19404, - "recall_at_5": 0.23633, - "recall_at_10": 0.2971, - "recall_at_50": 0.40712, - "recall_at_100": 0.43533, - "recall_at_1000": 0.43533, - "precision_at_1": 0.25819, - "precision_at_3": 0.18434, - "precision_at_5": 0.14592, - "precision_at_10": 0.10011, - "precision_at_50": 0.02959, - "precision_at_100": 0.01571, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.25819, - "mrr_at_3": 0.31038, - "mrr_at_5": 0.32093, - "mrr_at_10": 0.32751, - "mrr_at_50": 0.33164, - "mrr_at_100": 0.33194, - "mrr_at_1000": 0.33194 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.42193, - "ndcg_at_3": 0.43089, - "ndcg_at_5": 0.44747, - "ndcg_at_10": 0.48134, - "ndcg_at_50": 0.54259, - "ndcg_at_100": 0.55012, - "ndcg_at_1000": 0.55012, - "map_at_1": 0.19335, - "map_at_3": 0.29884, - "map_at_5": 0.34563, - "map_at_10": 0.39152, - "map_at_50": 0.42364, - "map_at_100": 0.42503, - "map_at_1000": 0.42503, - "recall_at_1": 0.19335, - "recall_at_3": 0.35501, - "recall_at_5": 0.44349, - "recall_at_10": 0.55613, - "recall_at_50": 0.71906, - "recall_at_100": 0.75003, - "recall_at_1000": 0.75003, - "precision_at_1": 0.42193, - "precision_at_3": 0.32301, - "precision_at_5": 0.27249, - "precision_at_10": 0.193, - "precision_at_50": 0.05467, - "precision_at_100": 0.02851, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.42193, - "mrr_at_3": 0.5126, - "mrr_at_5": 0.5292, - "mrr_at_10": 0.53931, - "mrr_at_50": 0.54338, - "mrr_at_100": 0.54363, - "mrr_at_1000": 0.54363 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.42459, - "ndcg_at_3": 0.40579, - "ndcg_at_5": 0.40504, - "ndcg_at_10": 0.44049, - "ndcg_at_50": 0.55188, - "ndcg_at_100": 0.56952, - "ndcg_at_1000": 0.56952, - "map_at_1": 0.11671, - "map_at_3": 0.21746, - "map_at_5": 0.26789, - "map_at_10": 0.32832, - "map_at_50": 0.38451, - "map_at_100": 0.38863, - "map_at_1000": 0.38863, - "recall_at_1": 0.11671, - "recall_at_3": 0.25872, - "recall_at_5": 0.35056, - "recall_at_10": 0.49421, - "recall_at_50": 0.77787, - "recall_at_100": 0.84329, - "recall_at_1000": 0.84329, - "precision_at_1": 0.42459, - "precision_at_3": 0.35781, - "precision_at_5": 0.31154, - "precision_at_10": 0.23814, - "precision_at_50": 0.08051, - "precision_at_100": 0.04356, - "precision_at_1000": 0.00436, - "mrr_at_1": 0.42523, - "mrr_at_3": 0.51962, - "mrr_at_5": 0.53881, - "mrr_at_10": 0.55138, - "mrr_at_50": 0.55767, - "mrr_at_100": 0.55793, - "mrr_at_1000": 0.55793 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.44464, - "ndcg_at_3": 0.41816, - "ndcg_at_5": 0.43806, - "ndcg_at_10": 0.48098, - "ndcg_at_50": 0.54239, - "ndcg_at_100": 0.55262, - "ndcg_at_1000": 0.55262, - "map_at_1": 0.19786, - "map_at_3": 0.30982, - "map_at_5": 0.34976, - "map_at_10": 0.38422, - "map_at_50": 0.40863, - "map_at_100": 0.41026, - "map_at_1000": 0.41026, - "recall_at_1": 0.19786, - "recall_at_3": 0.36165, - "recall_at_5": 0.45301, - "recall_at_10": 0.56688, - "recall_at_50": 0.75708, - "recall_at_100": 0.80427, - "recall_at_1000": 0.80427, - "precision_at_1": 0.44464, - "precision_at_3": 0.31166, - "precision_at_5": 0.24581, - "precision_at_10": 0.16163, - "precision_at_50": 0.04507, - "precision_at_100": 0.02384, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.44464, - "mrr_at_3": 0.53027, - "mrr_at_5": 0.54928, - "mrr_at_10": 0.55852, - "mrr_at_50": 0.56403, - "mrr_at_100": 0.56441, - "mrr_at_1000": 0.56441 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.41199, - "ndcg_at_3": 0.44567, - "ndcg_at_5": 0.46557, - "ndcg_at_10": 0.49353, - "ndcg_at_50": 0.52803, - "ndcg_at_100": 0.53247, - "ndcg_at_1000": 0.53247, - "map_at_1": 0.25588, - "map_at_3": 0.37229, - "map_at_5": 0.40381, - "map_at_10": 0.42978, - "map_at_50": 0.44476, - "map_at_100": 0.4454, - "map_at_1000": 0.4454, - "recall_at_1": 0.25588, - "recall_at_3": 0.43936, - "recall_at_5": 0.51149, - "recall_at_10": 0.58878, - "recall_at_50": 0.69919, - "recall_at_100": 0.72166, - "recall_at_1000": 0.72166, - "precision_at_1": 0.41199, - "precision_at_3": 0.27592, - "precision_at_5": 0.20782, - "precision_at_10": 0.13079, - "precision_at_50": 0.03312, - "precision_at_100": 0.01704, - "precision_at_1000": 0.0017, - "mrr_at_1": 0.41262, - "mrr_at_3": 0.48833, - "mrr_at_5": 0.50038, - "mrr_at_10": 0.50592, - "mrr_at_50": 0.50925, - "mrr_at_100": 0.5095, - "mrr_at_1000": 0.5095 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.57151, - "ndcg_at_3": 0.54623, - "ndcg_at_5": 0.56309, - "ndcg_at_10": 0.59361, - "ndcg_at_50": 0.62194, - "ndcg_at_100": 0.6253, - "ndcg_at_1000": 0.6253, - "map_at_1": 0.33916, - "map_at_3": 0.45261, - "map_at_5": 0.48528, - "map_at_10": 0.5107, - "map_at_50": 0.52284, - "map_at_100": 0.52333, - "map_at_1000": 0.52333, - "recall_at_1": 0.33916, - "recall_at_3": 0.51319, - "recall_at_5": 0.5854, - "recall_at_10": 0.66443, - "recall_at_50": 0.75029, - "recall_at_100": 0.76624, - "recall_at_1000": 0.76624, - "precision_at_1": 0.57151, - "precision_at_3": 0.33854, - "precision_at_5": 0.24655, - "precision_at_10": 0.15003, - "precision_at_50": 0.03596, - "precision_at_100": 0.01838, - "precision_at_1000": 0.00184, - "mrr_at_1": 0.57209, - "mrr_at_3": 0.65103, - "mrr_at_5": 0.66253, - "mrr_at_10": 0.66829, - "mrr_at_50": 0.67039, - "mrr_at_100": 0.67053, - "mrr_at_1000": 0.67053 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.3807, - "ndcg_at_3": 0.35821, - "ndcg_at_5": 0.37246, - "ndcg_at_10": 0.4126, - "ndcg_at_50": 0.47203, - "ndcg_at_100": 0.47846, - "ndcg_at_1000": 0.47846, - "map_at_1": 0.16179, - "map_at_3": 0.24617, - "map_at_5": 0.2815, - "map_at_10": 0.31523, - "map_at_50": 0.33955, - "map_at_100": 0.34054, - "map_at_1000": 0.34054, - "recall_at_1": 0.16179, - "recall_at_3": 0.30131, - "recall_at_5": 0.38149, - "recall_at_10": 0.49012, - "recall_at_50": 0.66858, - "recall_at_100": 0.69886, - "recall_at_1000": 0.69886, - "precision_at_1": 0.3807, - "precision_at_3": 0.26979, - "precision_at_5": 0.21791, - "precision_at_10": 0.14922, - "precision_at_50": 0.04272, - "precision_at_100": 0.02214, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.38128, - "mrr_at_3": 0.4741, - "mrr_at_5": 0.49036, - "mrr_at_10": 0.50031, - "mrr_at_50": 0.50569, - "mrr_at_100": 0.50597, - "mrr_at_1000": 0.50597 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.43468, - "ndcg_at_3": 0.4298, - "ndcg_at_5": 0.43361, - "ndcg_at_10": 0.4663, - "ndcg_at_50": 0.52172, - "ndcg_at_100": 0.52839, - "ndcg_at_1000": 0.52839, - "map_at_1": 0.21403, - "map_at_3": 0.3077, - "map_at_5": 0.33953, - "map_at_10": 0.37322, - "map_at_50": 0.39792, - "map_at_100": 0.39924, - "map_at_1000": 0.39924, - "recall_at_1": 0.21403, - "recall_at_3": 0.36868, - "recall_at_5": 0.43448, - "recall_at_10": 0.53389, - "recall_at_50": 0.68835, - "recall_at_100": 0.71596, - "recall_at_1000": 0.71596, - "precision_at_1": 0.43468, - "precision_at_3": 0.30092, - "precision_at_5": 0.2348, - "precision_at_10": 0.1604, - "precision_at_50": 0.04541, - "precision_at_100": 0.02372, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.43468, - "mrr_at_3": 0.53046, - "mrr_at_5": 0.54318, - "mrr_at_10": 0.55336, - "mrr_at_50": 0.55776, - "mrr_at_100": 0.55796, - "mrr_at_1000": 0.55796 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.43931, - "ndcg_at_3": 0.39131, - "ndcg_at_5": 0.40027, - "ndcg_at_10": 0.45469, - "ndcg_at_50": 0.5632, - "ndcg_at_100": 0.58011, - "ndcg_at_1000": 0.58011, - "map_at_1": 0.14461, - "map_at_3": 0.25245, - "map_at_5": 0.29716, - "map_at_10": 0.34669, - "map_at_50": 0.39521, - "map_at_100": 0.39834, - "map_at_1000": 0.39834, - "recall_at_1": 0.14461, - "recall_at_3": 0.28484, - "recall_at_5": 0.38118, - "recall_at_10": 0.53065, - "recall_at_50": 0.84391, - "recall_at_100": 0.91684, - "recall_at_1000": 0.91684, - "precision_at_1": 0.43931, - "precision_at_3": 0.32755, - "precision_at_5": 0.27457, - "precision_at_10": 0.20029, - "precision_at_50": 0.06578, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.43931, - "mrr_at_3": 0.50337, - "mrr_at_5": 0.5262, - "mrr_at_10": 0.54385, - "mrr_at_50": 0.55132, - "mrr_at_100": 0.55166, - "mrr_at_1000": 0.55166 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.43544, - "ndcg_at_3": 0.39273, - "ndcg_at_5": 0.3948, - "ndcg_at_10": 0.43827, - "ndcg_at_50": 0.5544, - "ndcg_at_100": 0.57413, - "ndcg_at_1000": 0.57413, - "map_at_1": 0.12262, - "map_at_3": 0.223, - "map_at_5": 0.27118, - "map_at_10": 0.32574, - "map_at_50": 0.38023, - "map_at_100": 0.3846, - "map_at_1000": 0.3846, - "recall_at_1": 0.12262, - "recall_at_3": 0.25984, - "recall_at_5": 0.35312, - "recall_at_10": 0.49416, - "recall_at_50": 0.81949, - "recall_at_100": 0.89603, - "recall_at_1000": 0.89603, - "precision_at_1": 0.43544, - "precision_at_3": 0.34334, - "precision_at_5": 0.2985, - "precision_at_10": 0.21682, - "precision_at_50": 0.07267, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.43544, - "mrr_at_3": 0.51401, - "mrr_at_5": 0.53624, - "mrr_at_10": 0.54934, - "mrr_at_50": 0.5561, - "mrr_at_100": 0.55627, - "mrr_at_1000": 0.55627 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.49704, - "ndcg_at_3": 0.45571, - "ndcg_at_5": 0.45219, - "ndcg_at_10": 0.493, - "ndcg_at_50": 0.59, - "ndcg_at_100": 0.60418, - "ndcg_at_1000": 0.60418, - "map_at_1": 0.15569, - "map_at_3": 0.27094, - "map_at_5": 0.32463, - "map_at_10": 0.38237, - "map_at_50": 0.43159, - "map_at_100": 0.43428, - "map_at_1000": 0.43428, - "recall_at_1": 0.15569, - "recall_at_3": 0.30647, - "recall_at_5": 0.39893, - "recall_at_10": 0.54887, - "recall_at_50": 0.80812, - "recall_at_100": 0.86886, - "recall_at_1000": 0.86886, - "precision_at_1": 0.49704, - "precision_at_3": 0.38955, - "precision_at_5": 0.3284, - "precision_at_10": 0.23402, - "precision_at_50": 0.07207, - "precision_at_100": 0.03811, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.49704, - "mrr_at_3": 0.5789, - "mrr_at_5": 0.59502, - "mrr_at_10": 0.60608, - "mrr_at_50": 0.61144, - "mrr_at_100": 0.61191, - "mrr_at_1000": 0.61191 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.50147, - "ndcg_at_3": 0.44629, - "ndcg_at_5": 0.4504, - "ndcg_at_10": 0.50487, - "ndcg_at_50": 0.60712, - "ndcg_at_100": 0.62349, - "ndcg_at_1000": 0.62349, - "map_at_1": 0.16543, - "map_at_3": 0.28813, - "map_at_5": 0.33549, - "map_at_10": 0.39114, - "map_at_50": 0.43893, - "map_at_100": 0.4422, - "map_at_1000": 0.4422, - "recall_at_1": 0.16543, - "recall_at_3": 0.32835, - "recall_at_5": 0.42025, - "recall_at_10": 0.57489, - "recall_at_50": 0.8687, - "recall_at_100": 0.93553, - "recall_at_1000": 0.93553, - "precision_at_1": 0.50147, - "precision_at_3": 0.37955, - "precision_at_5": 0.30973, - "precision_at_10": 0.22006, - "precision_at_50": 0.06796, - "precision_at_100": 0.03649, - "precision_at_1000": 0.00365, - "mrr_at_1": 0.50147, - "mrr_at_3": 0.58358, - "mrr_at_5": 0.60334, - "mrr_at_10": 0.61467, - "mrr_at_50": 0.62041, - "mrr_at_100": 0.6208, - "mrr_at_1000": 0.6208 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.6712, - "ndcg_at_3": 0.61911, - "ndcg_at_5": 0.61974, - "ndcg_at_10": 0.66857, - "ndcg_at_50": 0.75075, - "ndcg_at_100": 0.75567, - "ndcg_at_1000": 0.75567, - "map_at_1": 0.25021, - "map_at_3": 0.41673, - "map_at_5": 0.48838, - "map_at_10": 0.5566, - "map_at_50": 0.60364, - "map_at_100": 0.60472, - "map_at_1000": 0.60472, - "recall_at_1": 0.25021, - "recall_at_3": 0.45413, - "recall_at_5": 0.57874, - "recall_at_10": 0.72332, - "recall_at_50": 0.94126, - "recall_at_100": 0.96113, - "recall_at_1000": 0.96113, - "precision_at_1": 0.6712, - "precision_at_3": 0.50543, - "precision_at_5": 0.41033, - "precision_at_10": 0.27989, - "precision_at_50": 0.07641, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.6712, - "mrr_at_3": 0.75362, - "mrr_at_5": 0.76938, - "mrr_at_10": 0.7728, - "mrr_at_50": 0.77494, - "mrr_at_100": 0.77497, - "mrr_at_1000": 0.77497 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.51786, - "ndcg_at_3": 0.49697, - "ndcg_at_5": 0.5094, - "ndcg_at_10": 0.55317, - "ndcg_at_50": 0.61957, - "ndcg_at_100": 0.63002, - "ndcg_at_1000": 0.63002, - "map_at_1": 0.23326, - "map_at_3": 0.37545, - "map_at_5": 0.42135, - "map_at_10": 0.46159, - "map_at_50": 0.4908, - "map_at_100": 0.49254, - "map_at_1000": 0.49254, - "recall_at_1": 0.23326, - "recall_at_3": 0.42787, - "recall_at_5": 0.51496, - "recall_at_10": 0.63126, - "recall_at_50": 0.82479, - "recall_at_100": 0.87284, - "recall_at_1000": 0.87284, - "precision_at_1": 0.51786, - "precision_at_3": 0.36706, - "precision_at_5": 0.28631, - "precision_at_10": 0.1878, - "precision_at_50": 0.05274, - "precision_at_100": 0.02771, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.51786, - "mrr_at_3": 0.60417, - "mrr_at_5": 0.61562, - "mrr_at_10": 0.62282, - "mrr_at_50": 0.62815, - "mrr_at_100": 0.6286, - "mrr_at_1000": 0.6286 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.55211, - "ndcg_at_3": 0.53275, - "ndcg_at_5": 0.55957, - "ndcg_at_10": 0.61185, - "ndcg_at_50": 0.67312, - "ndcg_at_100": 0.67751, - "ndcg_at_1000": 0.67751, - "map_at_1": 0.26368, - "map_at_3": 0.41545, - "map_at_5": 0.46631, - "map_at_10": 0.50861, - "map_at_50": 0.5351, - "map_at_100": 0.53586, - "map_at_1000": 0.53586, - "recall_at_1": 0.26368, - "recall_at_3": 0.48564, - "recall_at_5": 0.59074, - "recall_at_10": 0.71233, - "recall_at_50": 0.90487, - "recall_at_100": 0.92506, - "recall_at_1000": 0.92506, - "precision_at_1": 0.55211, - "precision_at_3": 0.3831, - "precision_at_5": 0.29803, - "precision_at_10": 0.19239, - "precision_at_50": 0.05003, - "precision_at_100": 0.02558, - "precision_at_1000": 0.00256, - "mrr_at_1": 0.55211, - "mrr_at_3": 0.65634, - "mrr_at_5": 0.67, - "mrr_at_10": 0.6763, - "mrr_at_50": 0.68129, - "mrr_at_100": 0.68136, - "mrr_at_1000": 0.68136 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.53221, - "ndcg_at_3": 0.49259, - "ndcg_at_5": 0.51728, - "ndcg_at_10": 0.57129, - "ndcg_at_50": 0.63732, - "ndcg_at_100": 0.64492, - "ndcg_at_1000": 0.64492, - "map_at_1": 0.26977, - "map_at_3": 0.39119, - "map_at_5": 0.43093, - "map_at_10": 0.46748, - "map_at_50": 0.49517, - "map_at_100": 0.49617, - "map_at_1000": 0.49617, - "recall_at_1": 0.26977, - "recall_at_3": 0.45138, - "recall_at_5": 0.54268, - "recall_at_10": 0.66953, - "recall_at_50": 0.87021, - "recall_at_100": 0.90924, - "recall_at_1000": 0.90924, - "precision_at_1": 0.53221, - "precision_at_3": 0.33707, - "precision_at_5": 0.2577, - "precision_at_10": 0.16947, - "precision_at_50": 0.04762, - "precision_at_100": 0.02459, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.53221, - "mrr_at_3": 0.62045, - "mrr_at_5": 0.63529, - "mrr_at_10": 0.64831, - "mrr_at_50": 0.65189, - "mrr_at_100": 0.65224, - "mrr_at_1000": 0.65224 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.54032, - "ndcg_at_3": 0.51689, - "ndcg_at_5": 0.52934, - "ndcg_at_10": 0.57004, - "ndcg_at_50": 0.64152, - "ndcg_at_100": 0.64981, - "ndcg_at_1000": 0.64981, - "map_at_1": 0.30079, - "map_at_3": 0.42217, - "map_at_5": 0.45286, - "map_at_10": 0.47984, - "map_at_50": 0.50925, - "map_at_100": 0.51068, - "map_at_1000": 0.51068, - "recall_at_1": 0.30079, - "recall_at_3": 0.48394, - "recall_at_5": 0.5502, - "recall_at_10": 0.64295, - "recall_at_50": 0.85934, - "recall_at_100": 0.89626, - "recall_at_1000": 0.89626, - "precision_at_1": 0.54032, - "precision_at_3": 0.33781, - "precision_at_5": 0.24946, - "precision_at_10": 0.15833, - "precision_at_50": 0.04602, - "precision_at_100": 0.02414, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.54032, - "mrr_at_3": 0.62724, - "mrr_at_5": 0.63961, - "mrr_at_10": 0.64882, - "mrr_at_50": 0.65337, - "mrr_at_100": 0.65351, - "mrr_at_1000": 0.65351 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.4153, - "ndcg_at_3": 0.39797, - "ndcg_at_5": 0.41634, - "ndcg_at_10": 0.46663, - "ndcg_at_50": 0.55513, - "ndcg_at_100": 0.5685, - "ndcg_at_1000": 0.5685, - "map_at_1": 0.17912, - "map_at_3": 0.28409, - "map_at_5": 0.3241, - "map_at_10": 0.36174, - "map_at_50": 0.39919, - "map_at_100": 0.40136, - "map_at_1000": 0.40136, - "recall_at_1": 0.17912, - "recall_at_3": 0.33797, - "recall_at_5": 0.42972, - "recall_at_10": 0.55736, - "recall_at_50": 0.82659, - "recall_at_100": 0.8896, - "recall_at_1000": 0.8896, - "precision_at_1": 0.4153, - "precision_at_3": 0.30601, - "precision_at_5": 0.24754, - "precision_at_10": 0.17049, - "precision_at_50": 0.05322, - "precision_at_100": 0.02825, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.4153, - "mrr_at_3": 0.50865, - "mrr_at_5": 0.52887, - "mrr_at_10": 0.54148, - "mrr_at_50": 0.54716, - "mrr_at_100": 0.54762, - "mrr_at_1000": 0.54762 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.46757, - "ndcg_at_3": 0.47546, - "ndcg_at_5": 0.50616, - "ndcg_at_10": 0.57346, - "ndcg_at_50": 0.63929, - "ndcg_at_100": 0.64703, - "ndcg_at_1000": 0.64703, - "map_at_1": 0.25321, - "map_at_3": 0.38264, - "map_at_5": 0.42364, - "map_at_10": 0.46891, - "map_at_50": 0.49553, - "map_at_100": 0.49672, - "map_at_1000": 0.49672, - "recall_at_1": 0.25321, - "recall_at_3": 0.46667, - "recall_at_5": 0.55984, - "recall_at_10": 0.72176, - "recall_at_50": 0.94536, - "recall_at_100": 0.98378, - "recall_at_1000": 0.98378, - "precision_at_1": 0.46757, - "precision_at_3": 0.31712, - "precision_at_5": 0.24541, - "precision_at_10": 0.16838, - "precision_at_50": 0.04508, - "precision_at_100": 0.02335, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.46757, - "mrr_at_3": 0.57027, - "mrr_at_5": 0.58689, - "mrr_at_10": 0.6008, - "mrr_at_50": 0.60582, - "mrr_at_100": 0.60611, - "mrr_at_1000": 0.60611 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.35276, - "ndcg_at_3": 0.40046, - "ndcg_at_5": 0.43701, - "ndcg_at_10": 0.49392, - "ndcg_at_50": 0.55168, - "ndcg_at_100": 0.55943, - "ndcg_at_1000": 0.55943, - "map_at_1": 0.22932, - "map_at_3": 0.3365, - "map_at_5": 0.37175, - "map_at_10": 0.40563, - "map_at_50": 0.42472, - "map_at_100": 0.42566, - "map_at_1000": 0.42566, - "recall_at_1": 0.22932, - "recall_at_3": 0.42473, - "recall_at_5": 0.51788, - "recall_at_10": 0.6595, - "recall_at_50": 0.86774, - "recall_at_100": 0.90874, - "recall_at_1000": 0.90874, - "precision_at_1": 0.35276, - "precision_at_3": 0.24847, - "precision_at_5": 0.19018, - "precision_at_10": 0.12791, - "precision_at_50": 0.03429, - "precision_at_100": 0.01785, - "precision_at_1000": 0.00179, - "mrr_at_1": 0.35276, - "mrr_at_3": 0.44836, - "mrr_at_5": 0.46692, - "mrr_at_10": 0.48242, - "mrr_at_50": 0.49014, - "mrr_at_100": 0.49064, - "mrr_at_1000": 0.49064 - }, - "gpt3": { - "ndcg_at_1": 0.27596, - "ndcg_at_3": 0.35829, - "ndcg_at_5": 0.40814, - "ndcg_at_10": 0.4522, - "ndcg_at_50": 0.51152, - "ndcg_at_100": 0.52373, - "ndcg_at_1000": 0.52373, - "map_at_1": 0.22082, - "map_at_3": 0.3159, - "map_at_5": 0.34709, - "map_at_10": 0.3689, - "map_at_50": 0.38574, - "map_at_100": 0.38714, - "map_at_1000": 0.38714, - "recall_at_1": 0.22082, - "recall_at_3": 0.41518, - "recall_at_5": 0.52498, - "recall_at_10": 0.64466, - "recall_at_50": 0.87537, - "recall_at_100": 0.94362, - "recall_at_1000": 0.94362, - "precision_at_1": 0.27596, - "precision_at_3": 0.18497, - "precision_at_5": 0.1454, - "precision_at_10": 0.09199, - "precision_at_50": 0.0257, - "precision_at_100": 0.0138, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.27596, - "mrr_at_3": 0.37834, - "mrr_at_5": 0.40415, - "mrr_at_10": 0.41887, - "mrr_at_50": 0.42891, - "mrr_at_100": 0.4297, - "mrr_at_1000": 0.4297 - }, - "llm-survey": { - "ndcg_at_1": 0.37815, - "ndcg_at_3": 0.3584, - "ndcg_at_5": 0.38392, - "ndcg_at_10": 0.42437, - "ndcg_at_50": 0.50178, - "ndcg_at_100": 0.52057, - "ndcg_at_1000": 0.52057, - "map_at_1": 0.17053, - "map_at_3": 0.26974, - "map_at_5": 0.30849, - "map_at_10": 0.33696, - "map_at_50": 0.36368, - "map_at_100": 0.36633, - "map_at_1000": 0.36633, - "recall_at_1": 0.17053, - "recall_at_3": 0.32499, - "recall_at_5": 0.40847, - "recall_at_10": 0.51652, - "recall_at_50": 0.77736, - "recall_at_100": 0.87352, - "recall_at_1000": 0.87352, - "precision_at_1": 0.37815, - "precision_at_3": 0.26424, - "precision_at_5": 0.21232, - "precision_at_10": 0.13754, - "precision_at_50": 0.04224, - "precision_at_100": 0.02305, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.37815, - "mrr_at_3": 0.45752, - "mrr_at_5": 0.47054, - "mrr_at_10": 0.48183, - "mrr_at_50": 0.48976, - "mrr_at_100": 0.49059, - "mrr_at_1000": 0.49059 - }, - "gemini": { - "ndcg_at_1": 0.36948, - "ndcg_at_3": 0.46548, - "ndcg_at_5": 0.49468, - "ndcg_at_10": 0.5297, - "ndcg_at_50": 0.57473, - "ndcg_at_100": 0.57982, - "ndcg_at_1000": 0.57982, - "map_at_1": 0.36948, - "map_at_3": 0.44177, - "map_at_5": 0.45763, - "map_at_10": 0.47206, - "map_at_50": 0.48195, - "map_at_100": 0.48236, - "map_at_1000": 0.48236, - "recall_at_1": 0.36948, - "recall_at_3": 0.53414, - "recall_at_5": 0.60643, - "recall_at_10": 0.71486, - "recall_at_50": 0.91566, - "recall_at_100": 0.94779, - "recall_at_1000": 0.94779, - "precision_at_1": 0.36948, - "precision_at_3": 0.17805, - "precision_at_5": 0.12129, - "precision_at_10": 0.07149, - "precision_at_50": 0.01831, - "precision_at_100": 0.00948, - "precision_at_1000": 0.00095, - "mrr_at_1": 0.37349, - "mrr_at_3": 0.44378, - "mrr_at_5": 0.45964, - "mrr_at_10": 0.47447, - "mrr_at_50": 0.484, - "mrr_at_100": 0.48441, - "mrr_at_1000": 0.48441 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "en": { - "default": { - "ndcg_at_1": 0.3598, - "ndcg_at_3": 0.31958, - "ndcg_at_5": 0.31792, - "ndcg_at_10": 0.33211, - "ndcg_at_50": 0.35651, - "ndcg_at_100": 0.35929, - "ndcg_at_1000": 0.35929, - "map_at_1": 0.14854, - "map_at_3": 0.21902, - "map_at_5": 0.24746, - "map_at_10": 0.27342, - "map_at_50": 0.2862, - "map_at_100": 0.28662, - "map_at_1000": 0.28662, - "recall_at_1": 0.14854, - "recall_at_3": 0.24351, - "recall_at_5": 0.29327, - "recall_at_10": 0.35258, - "recall_at_50": 0.42258, - "recall_at_100": 0.43533, - "recall_at_1000": 0.43533, - "precision_at_1": 0.3598, - "precision_at_3": 0.24357, - "precision_at_5": 0.19045, - "precision_at_10": 0.12449, - "precision_at_50": 0.03067, - "precision_at_100": 0.01571, - "precision_at_1000": 0.00157, - "mrr_at_1": 0.35924, - "mrr_at_3": 0.40098, - "mrr_at_5": 0.40814, - "mrr_at_10": 0.4125, - "mrr_at_50": 0.41458, - "mrr_at_100": 0.41473, - "mrr_at_1000": 0.41473 - } - } - }, - "news": { - "en": { - "default": { - "ndcg_at_1": 0.55886, - "ndcg_at_3": 0.54151, - "ndcg_at_5": 0.54914, - "ndcg_at_10": 0.57764, - "ndcg_at_50": 0.61776, - "ndcg_at_100": 0.62026, - "ndcg_at_1000": 0.62026, - "map_at_1": 0.24371, - "map_at_3": 0.37701, - "map_at_5": 0.43695, - "map_at_10": 0.49131, - "map_at_50": 0.51585, - "map_at_100": 0.51635, - "map_at_1000": 0.51635, - "recall_at_1": 0.24371, - "recall_at_3": 0.42173, - "recall_at_5": 0.51859, - "recall_at_10": 0.6348, - "recall_at_50": 0.73982, - "recall_at_100": 0.75003, - "recall_at_1000": 0.75003, - "precision_at_1": 0.55886, - "precision_at_3": 0.41119, - "precision_at_5": 0.33755, - "precision_at_10": 0.22906, - "precision_at_50": 0.05626, - "precision_at_100": 0.02851, - "precision_at_1000": 0.00285, - "mrr_at_1": 0.55886, - "mrr_at_3": 0.63404, - "mrr_at_5": 0.64395, - "mrr_at_10": 0.65182, - "mrr_at_50": 0.65343, - "mrr_at_100": 0.65351, - "mrr_at_1000": 0.65351 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.67811, - "ndcg_at_3": 0.63333, - "ndcg_at_5": 0.61677, - "ndcg_at_10": 0.63911, - "ndcg_at_50": 0.70267, - "ndcg_at_100": 0.70706, - "ndcg_at_1000": 0.70706, - "map_at_1": 0.1844, - "map_at_3": 0.35204, - "map_at_5": 0.43798, - "map_at_10": 0.52871, - "map_at_50": 0.57145, - "map_at_100": 0.57245, - "map_at_1000": 0.57245, - "recall_at_1": 0.1844, - "recall_at_3": 0.38812, - "recall_at_5": 0.51002, - "recall_at_10": 0.66967, - "recall_at_50": 0.82552, - "recall_at_100": 0.84329, - "recall_at_1000": 0.84329, - "precision_at_1": 0.67811, - "precision_at_3": 0.56058, - "precision_at_5": 0.4759, - "precision_at_10": 0.33724, - "precision_at_50": 0.08568, - "precision_at_100": 0.04356, - "precision_at_1000": 0.00436, - "mrr_at_1": 0.6778, - "mrr_at_3": 0.75009, - "mrr_at_5": 0.75886, - "mrr_at_10": 0.7635, - "mrr_at_50": 0.76526, - "mrr_at_100": 0.76536, - "mrr_at_1000": 0.76536 - } - } - }, - "healthcare": { - "en": { - "default": { - "ndcg_at_1": 0.48975, - "ndcg_at_3": 0.46991, - "ndcg_at_5": 0.48933, - "ndcg_at_10": 0.53877, - "ndcg_at_50": 0.588, - "ndcg_at_100": 0.5918, - "ndcg_at_1000": 0.5918, - "map_at_1": 0.21429, - "map_at_3": 0.34474, - "map_at_5": 0.3906, - "map_at_10": 0.43461, - "map_at_50": 0.4569, - "map_at_100": 0.45753, - "map_at_1000": 0.45753, - "recall_at_1": 0.21429, - "recall_at_3": 0.40768, - "recall_at_5": 0.50568, - "recall_at_10": 0.63628, - "recall_at_50": 0.78619, - "recall_at_100": 0.80427, - "recall_at_1000": 0.80427, - "precision_at_1": 0.48975, - "precision_at_3": 0.3552, - "precision_at_5": 0.2792, - "precision_at_10": 0.18635, - "precision_at_50": 0.04682, - "precision_at_100": 0.02384, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.48975, - "mrr_at_3": 0.58416, - "mrr_at_5": 0.60153, - "mrr_at_10": 0.61074, - "mrr_at_50": 0.61465, - "mrr_at_100": 0.61478, - "mrr_at_1000": 0.61478 - } - } - }, - "finance": { - "en": { - "default": { - "ndcg_at_1": 0.50221, - "ndcg_at_3": 0.50936, - "ndcg_at_5": 0.52609, - "ndcg_at_10": 0.55004, - "ndcg_at_50": 0.5761, - "ndcg_at_100": 0.57905, - "ndcg_at_1000": 0.57905, - "map_at_1": 0.31495, - "map_at_3": 0.43213, - "map_at_5": 0.46612, - "map_at_10": 0.49306, - "map_at_50": 0.50543, - "map_at_100": 0.5058, - "map_at_1000": 0.5058, - "recall_at_1": 0.31495, - "recall_at_3": 0.48071, - "recall_at_5": 0.55189, - "recall_at_10": 0.62145, - "recall_at_50": 0.70519, - "recall_at_100": 0.72166, - "recall_at_1000": 0.72166, - "precision_at_1": 0.50221, - "precision_at_3": 0.31083, - "precision_at_5": 0.23192, - "precision_at_10": 0.1429, - "precision_at_50": 0.03359, - "precision_at_100": 0.01704, - "precision_at_1000": 0.0017, - "mrr_at_1": 0.50221, - "mrr_at_3": 0.55868, - "mrr_at_5": 0.56849, - "mrr_at_10": 0.57238, - "mrr_at_50": 0.57479, - "mrr_at_100": 0.57499, - "mrr_at_1000": 0.57499 - } - } - }, - "wiki": { - "en": { - "default": { - "ndcg_at_1": 0.72206, - "ndcg_at_3": 0.65769, - "ndcg_at_5": 0.66491, - "ndcg_at_10": 0.68473, - "ndcg_at_50": 0.7007, - "ndcg_at_100": 0.70167, - "ndcg_at_1000": 0.70167, - "map_at_1": 0.42202, - "map_at_3": 0.55889, - "map_at_5": 0.59357, - "map_at_10": 0.61583, - "map_at_50": 0.62375, - "map_at_100": 0.6239, - "map_at_1000": 0.6239, - "recall_at_1": 0.42202, - "recall_at_3": 0.59604, - "recall_at_5": 0.6586, - "recall_at_10": 0.71431, - "recall_at_50": 0.762, - "recall_at_100": 0.76624, - "recall_at_1000": 0.76624, - "precision_at_1": 0.72206, - "precision_at_3": 0.40822, - "precision_at_5": 0.28906, - "precision_at_10": 0.1663, - "precision_at_50": 0.0365, - "precision_at_100": 0.01838, - "precision_at_1000": 0.00184, - "mrr_at_1": 0.72206, - "mrr_at_3": 0.76838, - "mrr_at_5": 0.77397, - "mrr_at_10": 0.77631, - "mrr_at_50": 0.77751, - "mrr_at_100": 0.77757, - "mrr_at_1000": 0.77757 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.51184, - "ndcg_at_3": 0.46524, - "ndcg_at_5": 0.47273, - "ndcg_at_10": 0.5058, - "ndcg_at_50": 0.54341, - "ndcg_at_100": 0.54699, - "ndcg_at_1000": 0.54699, - "map_at_1": 0.20833, - "map_at_3": 0.3236, - "map_at_5": 0.36878, - "map_at_10": 0.40718, - "map_at_50": 0.42465, - "map_at_100": 0.42515, - "map_at_1000": 0.42515, - "recall_at_1": 0.20833, - "recall_at_3": 0.37589, - "recall_at_5": 0.46685, - "recall_at_10": 0.56682, - "recall_at_50": 0.68076, - "recall_at_100": 0.69886, - "recall_at_1000": 0.69886, - "precision_at_1": 0.51184, - "precision_at_3": 0.35702, - "precision_at_5": 0.27984, - "precision_at_10": 0.18001, - "precision_at_50": 0.04357, - "precision_at_100": 0.02214, - "precision_at_1000": 0.00221, - "mrr_at_1": 0.51184, - "mrr_at_3": 0.59282, - "mrr_at_5": 0.60602, - "mrr_at_10": 0.61084, - "mrr_at_50": 0.61379, - "mrr_at_100": 0.61398, - "mrr_at_1000": 0.61398 - } - } - }, - "web": { - "en": { - "default": { - "ndcg_at_1": 0.57293, - "ndcg_at_3": 0.53505, - "ndcg_at_5": 0.53797, - "ndcg_at_10": 0.56326, - "ndcg_at_50": 0.59817, - "ndcg_at_100": 0.60023, - "ndcg_at_1000": 0.60023, - "map_at_1": 0.27257, - "map_at_3": 0.38452, - "map_at_5": 0.43058, - "map_at_10": 0.47015, - "map_at_50": 0.48834, - "map_at_100": 0.48879, - "map_at_1000": 0.48879, - "recall_at_1": 0.27257, - "recall_at_3": 0.43484, - "recall_at_5": 0.52069, - "recall_at_10": 0.6121, - "recall_at_50": 0.70778, - "recall_at_100": 0.71596, - "recall_at_1000": 0.71596, - "precision_at_1": 0.57293, - "precision_at_3": 0.3802, - "precision_at_5": 0.29854, - "precision_at_10": 0.19297, - "precision_at_50": 0.0468, - "precision_at_100": 0.02372, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.57293, - "mrr_at_3": 0.64997, - "mrr_at_5": 0.66236, - "mrr_at_10": 0.66762, - "mrr_at_50": 0.66977, - "mrr_at_100": 0.6698, - "mrr_at_1000": 0.6698 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65896, - "ndcg_at_3": 0.60263, - "ndcg_at_5": 0.60523, - "ndcg_at_10": 0.65842, - "ndcg_at_50": 0.71668, - "ndcg_at_100": 0.72145, - "ndcg_at_1000": 0.72145, - "map_at_1": 0.21147, - "map_at_3": 0.39275, - "map_at_5": 0.47347, - "map_at_10": 0.54585, - "map_at_50": 0.57839, - "map_at_100": 0.57927, - "map_at_1000": 0.57927, - "recall_at_1": 0.21147, - "recall_at_3": 0.44354, - "recall_at_5": 0.56872, - "recall_at_10": 0.73225, - "recall_at_50": 0.89434, - "recall_at_100": 0.91684, - "recall_at_1000": 0.91684, - "precision_at_1": 0.65896, - "precision_at_3": 0.51638, - "precision_at_5": 0.42197, - "precision_at_10": 0.2815, - "precision_at_50": 0.06948, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.65896, - "mrr_at_3": 0.74277, - "mrr_at_5": 0.75043, - "mrr_at_10": 0.756, - "mrr_at_50": 0.75913, - "mrr_at_100": 0.75932, - "mrr_at_1000": 0.75932 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.68769, - "ndcg_at_3": 0.60716, - "ndcg_at_5": 0.59784, - "ndcg_at_10": 0.65097, - "ndcg_at_50": 0.71856, - "ndcg_at_100": 0.72045, - "ndcg_at_1000": 0.72045, - "map_at_1": 0.19743, - "map_at_3": 0.36381, - "map_at_5": 0.44614, - "map_at_10": 0.5381, - "map_at_50": 0.57869, - "map_at_100": 0.57901, - "map_at_1000": 0.57901, - "recall_at_1": 0.19743, - "recall_at_3": 0.4016, - "recall_at_5": 0.5261, - "recall_at_10": 0.70501, - "recall_at_50": 0.88751, - "recall_at_100": 0.89603, - "recall_at_1000": 0.89603, - "precision_at_1": 0.68769, - "precision_at_3": 0.52553, - "precision_at_5": 0.43964, - "precision_at_10": 0.31351, - "precision_at_50": 0.07892, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.68769, - "mrr_at_3": 0.74725, - "mrr_at_5": 0.75701, - "mrr_at_10": 0.76251, - "mrr_at_50": 0.76521, - "mrr_at_100": 0.76527, - "mrr_at_1000": 0.76527 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71006, - "ndcg_at_3": 0.66633, - "ndcg_at_5": 0.65156, - "ndcg_at_10": 0.6881, - "ndcg_at_50": 0.73435, - "ndcg_at_100": 0.73676, - "ndcg_at_1000": 0.73676, - "map_at_1": 0.21256, - "map_at_3": 0.41515, - "map_at_5": 0.49886, - "map_at_10": 0.58359, - "map_at_50": 0.61337, - "map_at_100": 0.61385, - "map_at_1000": 0.61385, - "recall_at_1": 0.21256, - "recall_at_3": 0.45818, - "recall_at_5": 0.57683, - "recall_at_10": 0.73432, - "recall_at_50": 0.85813, - "recall_at_100": 0.86886, - "recall_at_1000": 0.86886, - "precision_at_1": 0.71006, - "precision_at_3": 0.5789, - "precision_at_5": 0.47456, - "precision_at_10": 0.32101, - "precision_at_50": 0.07556, - "precision_at_100": 0.03811, - "precision_at_1000": 0.00381, - "mrr_at_1": 0.71006, - "mrr_at_3": 0.77909, - "mrr_at_5": 0.7859, - "mrr_at_10": 0.79039, - "mrr_at_50": 0.79193, - "mrr_at_100": 0.79196, - "mrr_at_1000": 0.79196 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.73451, - "ndcg_at_3": 0.66339, - "ndcg_at_5": 0.67282, - "ndcg_at_10": 0.71759, - "ndcg_at_50": 0.77152, - "ndcg_at_100": 0.77387, - "ndcg_at_1000": 0.77387, - "map_at_1": 0.2469, - "map_at_3": 0.4525, - "map_at_5": 0.54057, - "map_at_10": 0.61236, - "map_at_50": 0.64385, - "map_at_100": 0.64434, - "map_at_1000": 0.64434, - "recall_at_1": 0.2469, - "recall_at_3": 0.49751, - "recall_at_5": 0.63484, - "recall_at_10": 0.77492, - "recall_at_50": 0.92589, - "recall_at_100": 0.93553, - "recall_at_1000": 0.93553, - "precision_at_1": 0.73451, - "precision_at_3": 0.56244, - "precision_at_5": 0.46077, - "precision_at_10": 0.30059, - "precision_at_50": 0.07227, - "precision_at_100": 0.03649, - "precision_at_1000": 0.00365, - "mrr_at_1": 0.73451, - "mrr_at_3": 0.80088, - "mrr_at_5": 0.81165, - "mrr_at_10": 0.81347, - "mrr_at_50": 0.81591, - "mrr_at_100": 0.81591, - "mrr_at_1000": 0.81591 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.80978, - "ndcg_at_3": 0.72912, - "ndcg_at_5": 0.7229, - "ndcg_at_10": 0.77333, - "ndcg_at_50": 0.82541, - "ndcg_at_100": 0.82769, - "ndcg_at_1000": 0.82769, - "map_at_1": 0.29468, - "map_at_3": 0.49739, - "map_at_5": 0.58567, - "map_at_10": 0.66903, - "map_at_50": 0.70476, - "map_at_100": 0.70533, - "map_at_1000": 0.70533, - "recall_at_1": 0.29468, - "recall_at_3": 0.53575, - "recall_at_5": 0.66758, - "recall_at_10": 0.82594, - "recall_at_50": 0.9527, - "recall_at_100": 0.96113, - "recall_at_1000": 0.96113, - "precision_at_1": 0.80978, - "precision_at_3": 0.59239, - "precision_at_5": 0.47935, - "precision_at_10": 0.32038, - "precision_at_50": 0.07717, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.80978, - "mrr_at_3": 0.86322, - "mrr_at_5": 0.86893, - "mrr_at_10": 0.87152, - "mrr_at_50": 0.87239, - "mrr_at_100": 0.87239, - "mrr_at_1000": 0.87239 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.61607, - "ndcg_at_3": 0.58385, - "ndcg_at_5": 0.59723, - "ndcg_at_10": 0.64013, - "ndcg_at_50": 0.6881, - "ndcg_at_100": 0.69259, - "ndcg_at_1000": 0.69259, - "map_at_1": 0.2696, - "map_at_3": 0.4373, - "map_at_5": 0.49827, - "map_at_10": 0.54811, - "map_at_50": 0.5729, - "map_at_100": 0.57364, - "map_at_1000": 0.57364, - "recall_at_1": 0.2696, - "recall_at_3": 0.48992, - "recall_at_5": 0.59732, - "recall_at_10": 0.70847, - "recall_at_50": 0.8519, - "recall_at_100": 0.87284, - "recall_at_1000": 0.87284, - "precision_at_1": 0.61607, - "precision_at_3": 0.44147, - "precision_at_5": 0.34762, - "precision_at_10": 0.22232, - "precision_at_50": 0.05435, - "precision_at_100": 0.02771, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.61607, - "mrr_at_3": 0.69891, - "mrr_at_5": 0.70992, - "mrr_at_10": 0.71399, - "mrr_at_50": 0.71682, - "mrr_at_100": 0.71701, - "mrr_at_1000": 0.71701 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.69014, - "ndcg_at_3": 0.62812, - "ndcg_at_5": 0.64735, - "ndcg_at_10": 0.69917, - "ndcg_at_50": 0.74214, - "ndcg_at_100": 0.7447, - "ndcg_at_1000": 0.7447, - "map_at_1": 0.33187, - "map_at_3": 0.4991, - "map_at_5": 0.55282, - "map_at_10": 0.59849, - "map_at_50": 0.62117, - "map_at_100": 0.62158, - "map_at_1000": 0.62158, - "recall_at_1": 0.33187, - "recall_at_3": 0.55305, - "recall_at_5": 0.65987, - "recall_at_10": 0.7837, - "recall_at_50": 0.91262, - "recall_at_100": 0.92506, - "recall_at_1000": 0.92506, - "precision_at_1": 0.69014, - "precision_at_3": 0.45258, - "precision_at_5": 0.33972, - "precision_at_10": 0.2138, - "precision_at_50": 0.05059, - "precision_at_100": 0.02558, - "precision_at_1000": 0.00256, - "mrr_at_1": 0.68732, - "mrr_at_3": 0.76103, - "mrr_at_5": 0.77399, - "mrr_at_10": 0.77796, - "mrr_at_50": 0.77989, - "mrr_at_100": 0.78003, - "mrr_at_1000": 0.78003 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64426, - "ndcg_at_3": 0.59498, - "ndcg_at_5": 0.61782, - "ndcg_at_10": 0.66588, - "ndcg_at_50": 0.71219, - "ndcg_at_100": 0.71521, - "ndcg_at_1000": 0.71521, - "map_at_1": 0.31298, - "map_at_3": 0.47107, - "map_at_5": 0.52232, - "map_at_10": 0.56323, - "map_at_50": 0.5845, - "map_at_100": 0.58495, - "map_at_1000": 0.58495, - "recall_at_1": 0.31298, - "recall_at_3": 0.53932, - "recall_at_5": 0.64237, - "recall_at_10": 0.75448, - "recall_at_50": 0.89355, - "recall_at_100": 0.90924, - "recall_at_1000": 0.90924, - "precision_at_1": 0.64426, - "precision_at_3": 0.4211, - "precision_at_5": 0.31765, - "precision_at_10": 0.19804, - "precision_at_50": 0.04857, - "precision_at_100": 0.02459, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.64426, - "mrr_at_3": 0.73249, - "mrr_at_5": 0.7437, - "mrr_at_10": 0.74731, - "mrr_at_50": 0.75069, - "mrr_at_100": 0.75081, - "mrr_at_1000": 0.75081 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.63172, - "ndcg_at_3": 0.59863, - "ndcg_at_5": 0.61976, - "ndcg_at_10": 0.66731, - "ndcg_at_50": 0.70986, - "ndcg_at_100": 0.71304, - "ndcg_at_1000": 0.71304, - "map_at_1": 0.32749, - "map_at_3": 0.48407, - "map_at_5": 0.53516, - "map_at_10": 0.57313, - "map_at_50": 0.59243, - "map_at_100": 0.59304, - "map_at_1000": 0.59304, - "recall_at_1": 0.32749, - "recall_at_3": 0.5414, - "recall_at_5": 0.64015, - "recall_at_10": 0.74893, - "recall_at_50": 0.88228, - "recall_at_100": 0.89626, - "recall_at_1000": 0.89626, - "precision_at_1": 0.63172, - "precision_at_3": 0.41219, - "precision_at_5": 0.31344, - "precision_at_10": 0.19597, - "precision_at_50": 0.04747, - "precision_at_100": 0.02414, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.63172, - "mrr_at_3": 0.71819, - "mrr_at_5": 0.73029, - "mrr_at_10": 0.73575, - "mrr_at_50": 0.73766, - "mrr_at_100": 0.73772, - "mrr_at_1000": 0.73772 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.56011, - "ndcg_at_3": 0.51109, - "ndcg_at_5": 0.52647, - "ndcg_at_10": 0.57549, - "ndcg_at_50": 0.64437, - "ndcg_at_100": 0.65093, - "ndcg_at_1000": 0.65093, - "map_at_1": 0.24123, - "map_at_3": 0.37175, - "map_at_5": 0.4246, - "map_at_10": 0.47097, - "map_at_50": 0.50286, - "map_at_100": 0.50387, - "map_at_1000": 0.50387, - "recall_at_1": 0.24123, - "recall_at_3": 0.42174, - "recall_at_5": 0.52041, - "recall_at_10": 0.64956, - "recall_at_50": 0.85807, - "recall_at_100": 0.8896, - "recall_at_1000": 0.8896, - "precision_at_1": 0.56011, - "precision_at_3": 0.38525, - "precision_at_5": 0.31093, - "precision_at_10": 0.20464, - "precision_at_50": 0.05503, - "precision_at_100": 0.02825, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.56011, - "mrr_at_3": 0.64663, - "mrr_at_5": 0.65961, - "mrr_at_10": 0.66524, - "mrr_at_50": 0.67062, - "mrr_at_100": 0.6708, - "mrr_at_1000": 0.6708 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.54054, - "ndcg_at_3": 0.55527, - "ndcg_at_5": 0.58372, - "ndcg_at_10": 0.64576, - "ndcg_at_50": 0.69755, - "ndcg_at_100": 0.70305, - "ndcg_at_1000": 0.70305, - "map_at_1": 0.29936, - "map_at_3": 0.45856, - "map_at_5": 0.50484, - "map_at_10": 0.54917, - "map_at_50": 0.57116, - "map_at_100": 0.57202, - "map_at_1000": 0.57202, - "recall_at_1": 0.29936, - "recall_at_3": 0.5371, - "recall_at_5": 0.63529, - "recall_at_10": 0.78629, - "recall_at_50": 0.95779, - "recall_at_100": 0.98378, - "recall_at_1000": 0.98378, - "precision_at_1": 0.54054, - "precision_at_3": 0.37568, - "precision_at_5": 0.28216, - "precision_at_10": 0.18324, - "precision_at_50": 0.04541, - "precision_at_100": 0.02335, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.54324, - "mrr_at_3": 0.64369, - "mrr_at_5": 0.65559, - "mrr_at_10": 0.66655, - "mrr_at_50": 0.67023, - "mrr_at_100": 0.67048, - "mrr_at_1000": 0.67048 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.46933, - "ndcg_at_3": 0.51422, - "ndcg_at_5": 0.56248, - "ndcg_at_10": 0.60812, - "ndcg_at_50": 0.64198, - "ndcg_at_100": 0.64545, - "ndcg_at_1000": 0.64545, - "map_at_1": 0.29982, - "map_at_3": 0.43398, - "map_at_5": 0.48392, - "map_at_10": 0.51688, - "map_at_50": 0.52868, - "map_at_100": 0.52911, - "map_at_1000": 0.52911, - "recall_at_1": 0.29982, - "recall_at_3": 0.53758, - "recall_at_5": 0.65779, - "recall_at_10": 0.76766, - "recall_at_50": 0.88983, - "recall_at_100": 0.90874, - "recall_at_1000": 0.90874, - "precision_at_1": 0.46933, - "precision_at_3": 0.31595, - "precision_at_5": 0.24847, - "precision_at_10": 0.15245, - "precision_at_50": 0.03509, - "precision_at_100": 0.01785, - "precision_at_1000": 0.00179, - "mrr_at_1": 0.46933, - "mrr_at_3": 0.58129, - "mrr_at_5": 0.59709, - "mrr_at_10": 0.60445, - "mrr_at_50": 0.60925, - "mrr_at_100": 0.60939, - "mrr_at_1000": 0.60939 - }, - "gpt3": { - "ndcg_at_1": 0.4184, - "ndcg_at_3": 0.50668, - "ndcg_at_5": 0.54579, - "ndcg_at_10": 0.58436, - "ndcg_at_50": 0.62313, - "ndcg_at_100": 0.63043, - "ndcg_at_1000": 0.63043, - "map_at_1": 0.33086, - "map_at_3": 0.45483, - "map_at_5": 0.48371, - "map_at_10": 0.50555, - "map_at_50": 0.51693, - "map_at_100": 0.51767, - "map_at_1000": 0.51767, - "recall_at_1": 0.33086, - "recall_at_3": 0.57122, - "recall_at_5": 0.65232, - "recall_at_10": 0.75025, - "recall_at_50": 0.90059, - "recall_at_100": 0.94362, - "recall_at_1000": 0.94362, - "precision_at_1": 0.4184, - "precision_at_3": 0.25321, - "precision_at_5": 0.18338, - "precision_at_10": 0.11009, - "precision_at_50": 0.02653, - "precision_at_100": 0.0138, - "precision_at_1000": 0.00138, - "mrr_at_1": 0.4184, - "mrr_at_3": 0.5361, - "mrr_at_5": 0.55168, - "mrr_at_10": 0.56197, - "mrr_at_50": 0.56878, - "mrr_at_100": 0.56931, - "mrr_at_1000": 0.56931 - }, - "llm-survey": { - "ndcg_at_1": 0.55462, - "ndcg_at_3": 0.51187, - "ndcg_at_5": 0.53923, - "ndcg_at_10": 0.58554, - "ndcg_at_50": 0.63202, - "ndcg_at_100": 0.63967, - "ndcg_at_1000": 0.63967, - "map_at_1": 0.25713, - "map_at_3": 0.40264, - "map_at_5": 0.44995, - "map_at_10": 0.49309, - "map_at_50": 0.51214, - "map_at_100": 0.51313, - "map_at_1000": 0.51313, - "recall_at_1": 0.25713, - "recall_at_3": 0.46074, - "recall_at_5": 0.56486, - "recall_at_10": 0.67673, - "recall_at_50": 0.83312, - "recall_at_100": 0.87352, - "recall_at_1000": 0.87352, - "precision_at_1": 0.55462, - "precision_at_3": 0.36881, - "precision_at_5": 0.28683, - "precision_at_10": 0.18375, - "precision_at_50": 0.04476, - "precision_at_100": 0.02305, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.55462, - "mrr_at_3": 0.62838, - "mrr_at_5": 0.64351, - "mrr_at_10": 0.6487, - "mrr_at_50": 0.65286, - "mrr_at_100": 0.65329, - "mrr_at_1000": 0.65329 - }, - "gemini": { - "ndcg_at_1": 0.43775, - "ndcg_at_3": 0.57769, - "ndcg_at_5": 0.59721, - "ndcg_at_10": 0.62099, - "ndcg_at_50": 0.64826, - "ndcg_at_100": 0.65349, - "ndcg_at_1000": 0.65349, - "map_at_1": 0.43775, - "map_at_3": 0.54284, - "map_at_5": 0.55348, - "map_at_10": 0.56354, - "map_at_50": 0.57016, - "map_at_100": 0.57062, - "map_at_1000": 0.57062, - "recall_at_1": 0.43775, - "recall_at_3": 0.67871, - "recall_at_5": 0.72691, - "recall_at_10": 0.7992, - "recall_at_50": 0.91566, - "recall_at_100": 0.94779, - "recall_at_1000": 0.94779, - "precision_at_1": 0.43775, - "precision_at_3": 0.22624, - "precision_at_5": 0.14538, - "precision_at_10": 0.07992, - "precision_at_50": 0.01831, - "precision_at_100": 0.00948, - "precision_at_1000": 0.00095, - "mrr_at_1": 0.43775, - "mrr_at_3": 0.54284, - "mrr_at_5": 0.55348, - "mrr_at_10": 0.56364, - "mrr_at_50": 0.57032, - "mrr_at_100": 0.57079, - "mrr_at_1000": 0.57079 - } - } - } - } - } - }, - "[multilingual-e5-large](https://huggingface.co/intfloat/multilingual-e5-large)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.72081, - "ndcg_at_3": 0.65016, - "ndcg_at_5": 0.66701, - "ndcg_at_10": 0.71807, - "ndcg_at_50": 0.76419, - "ndcg_at_100": 0.76749, - "ndcg_at_1000": 0.76749, - "map_at_1": 0.28931, - "map_at_3": 0.46434, - "map_at_5": 0.54778, - "map_at_10": 0.61838, - "map_at_50": 0.64351, - "map_at_100": 0.64398, - "map_at_1000": 0.64398, - "recall_at_1": 0.28931, - "recall_at_3": 0.51421, - "recall_at_5": 0.65063, - "recall_at_10": 0.79881, - "recall_at_50": 0.93641, - "recall_at_100": 0.95363, - "recall_at_1000": 0.95363, - "precision_at_1": 0.72081, - "precision_at_3": 0.50569, - "precision_at_5": 0.41366, - "precision_at_10": 0.27159, - "precision_at_50": 0.06388, - "precision_at_100": 0.03226, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.72081, - "mrr_at_3": 0.78102, - "mrr_at_5": 0.79055, - "mrr_at_10": 0.79414, - "mrr_at_50": 0.79649, - "mrr_at_100": 0.79666, - "mrr_at_1000": 0.79666 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.29039, - "ndcg_at_3": 0.28063, - "ndcg_at_5": 0.28429, - "ndcg_at_10": 0.30331, - "ndcg_at_50": 0.33831, - "ndcg_at_100": 0.34416, - "ndcg_at_1000": 0.34416, - "map_at_1": 0.10319, - "map_at_3": 0.17583, - "map_at_5": 0.20638, - "map_at_10": 0.23611, - "map_at_50": 0.25229, - "map_at_100": 0.2531, - "map_at_1000": 0.2531, - "recall_at_1": 0.10319, - "recall_at_3": 0.21663, - "recall_at_5": 0.27536, - "recall_at_10": 0.34633, - "recall_at_50": 0.45155, - "recall_at_100": 0.47893, - "recall_at_1000": 0.47893, - "precision_at_1": 0.29039, - "precision_at_3": 0.22858, - "precision_at_5": 0.18567, - "precision_at_10": 0.12654, - "precision_at_50": 0.0332, - "precision_at_100": 0.01735, - "precision_at_1000": 0.00173, - "mrr_at_1": 0.29039, - "mrr_at_3": 0.35776, - "mrr_at_5": 0.36762, - "mrr_at_10": 0.3733, - "mrr_at_50": 0.37675, - "mrr_at_100": 0.37707, - "mrr_at_1000": 0.37707 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.50265, - "ndcg_at_3": 0.47303, - "ndcg_at_5": 0.46805, - "ndcg_at_10": 0.49761, - "ndcg_at_50": 0.55605, - "ndcg_at_100": 0.5629, - "ndcg_at_1000": 0.5629, - "map_at_1": 0.14836, - "map_at_3": 0.26805, - "map_at_5": 0.32697, - "map_at_10": 0.38611, - "map_at_50": 0.41725, - "map_at_100": 0.41863, - "map_at_1000": 0.41863, - "recall_at_1": 0.14836, - "recall_at_3": 0.31365, - "recall_at_5": 0.41318, - "recall_at_10": 0.53879, - "recall_at_50": 0.69575, - "recall_at_100": 0.72257, - "recall_at_1000": 0.72257, - "precision_at_1": 0.50265, - "precision_at_3": 0.41485, - "precision_at_5": 0.35109, - "precision_at_10": 0.24361, - "precision_at_50": 0.06387, - "precision_at_100": 0.03307, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.50265, - "mrr_at_3": 0.60067, - "mrr_at_5": 0.61525, - "mrr_at_10": 0.62173, - "mrr_at_50": 0.62492, - "mrr_at_100": 0.62515, - "mrr_at_1000": 0.62515 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.54151, - "ndcg_at_3": 0.53074, - "ndcg_at_5": 0.53526, - "ndcg_at_10": 0.55705, - "ndcg_at_50": 0.59173, - "ndcg_at_100": 0.59662, - "ndcg_at_1000": 0.59662, - "map_at_1": 0.22604, - "map_at_3": 0.36107, - "map_at_5": 0.41784, - "map_at_10": 0.47164, - "map_at_50": 0.49292, - "map_at_100": 0.49367, - "map_at_1000": 0.49367, - "recall_at_1": 0.22604, - "recall_at_3": 0.41031, - "recall_at_5": 0.50454, - "recall_at_10": 0.60784, - "recall_at_50": 0.69979, - "recall_at_100": 0.72301, - "recall_at_1000": 0.72301, - "precision_at_1": 0.54151, - "precision_at_3": 0.40892, - "precision_at_5": 0.33321, - "precision_at_10": 0.22367, - "precision_at_50": 0.05379, - "precision_at_100": 0.02752, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.54213, - "mrr_at_3": 0.62495, - "mrr_at_5": 0.63393, - "mrr_at_10": 0.63873, - "mrr_at_50": 0.64079, - "mrr_at_100": 0.641, - "mrr_at_1000": 0.641 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.67432, - "ndcg_at_3": 0.64044, - "ndcg_at_5": 0.63037, - "ndcg_at_10": 0.65771, - "ndcg_at_50": 0.70845, - "ndcg_at_100": 0.71355, - "ndcg_at_1000": 0.71355, - "map_at_1": 0.17779, - "map_at_3": 0.35019, - "map_at_5": 0.4461, - "map_at_10": 0.55049, - "map_at_50": 0.58681, - "map_at_100": 0.58789, - "map_at_1000": 0.58789, - "recall_at_1": 0.17779, - "recall_at_3": 0.38956, - "recall_at_5": 0.52279, - "recall_at_10": 0.6959, - "recall_at_50": 0.82206, - "recall_at_100": 0.84362, - "recall_at_1000": 0.84362, - "precision_at_1": 0.67432, - "precision_at_3": 0.57541, - "precision_at_5": 0.50002, - "precision_at_10": 0.359, - "precision_at_50": 0.08613, - "precision_at_100": 0.04386, - "precision_at_1000": 0.00439, - "mrr_at_1": 0.67463, - "mrr_at_3": 0.75025, - "mrr_at_5": 0.75817, - "mrr_at_10": 0.76215, - "mrr_at_50": 0.76374, - "mrr_at_100": 0.76385, - "mrr_at_1000": 0.76385 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.58485, - "ndcg_at_3": 0.51858, - "ndcg_at_5": 0.48799, - "ndcg_at_10": 0.49716, - "ndcg_at_50": 0.56474, - "ndcg_at_100": 0.5727, - "ndcg_at_1000": 0.5727, - "map_at_1": 0.11937, - "map_at_3": 0.23997, - "map_at_5": 0.30513, - "map_at_10": 0.36765, - "map_at_50": 0.40601, - "map_at_100": 0.40782, - "map_at_1000": 0.40782, - "recall_at_1": 0.11937, - "recall_at_3": 0.27474, - "recall_at_5": 0.37778, - "recall_at_10": 0.50063, - "recall_at_50": 0.66767, - "recall_at_100": 0.69692, - "recall_at_1000": 0.69692, - "precision_at_1": 0.58485, - "precision_at_3": 0.48257, - "precision_at_5": 0.41174, - "precision_at_10": 0.28404, - "precision_at_50": 0.07658, - "precision_at_100": 0.03974, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.58485, - "mrr_at_3": 0.67191, - "mrr_at_5": 0.6848, - "mrr_at_10": 0.69007, - "mrr_at_50": 0.69226, - "mrr_at_100": 0.69238, - "mrr_at_1000": 0.69238 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.56532, - "ndcg_at_3": 0.53235, - "ndcg_at_5": 0.55316, - "ndcg_at_10": 0.59127, - "ndcg_at_50": 0.6185, - "ndcg_at_100": 0.62334, - "ndcg_at_1000": 0.62334, - "map_at_1": 0.23461, - "map_at_3": 0.39138, - "map_at_5": 0.45008, - "map_at_10": 0.49395, - "map_at_50": 0.506, - "map_at_100": 0.50672, - "map_at_1000": 0.50672, - "recall_at_1": 0.23461, - "recall_at_3": 0.45149, - "recall_at_5": 0.56472, - "recall_at_10": 0.67045, - "recall_at_50": 0.75965, - "recall_at_100": 0.78378, - "recall_at_1000": 0.78378, - "precision_at_1": 0.56532, - "precision_at_3": 0.41476, - "precision_at_5": 0.32665, - "precision_at_10": 0.2051, - "precision_at_50": 0.04599, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.56532, - "mrr_at_3": 0.65134, - "mrr_at_5": 0.66481, - "mrr_at_10": 0.66961, - "mrr_at_50": 0.67191, - "mrr_at_100": 0.67207, - "mrr_at_1000": 0.67207 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.43934, - "ndcg_at_3": 0.38269, - "ndcg_at_5": 0.36859, - "ndcg_at_10": 0.38627, - "ndcg_at_50": 0.43284, - "ndcg_at_100": 0.43926, - "ndcg_at_1000": 0.43926, - "map_at_1": 0.10993, - "map_at_3": 0.19643, - "map_at_5": 0.23876, - "map_at_10": 0.27911, - "map_at_50": 0.30141, - "map_at_100": 0.30263, - "map_at_1000": 0.30263, - "recall_at_1": 0.10993, - "recall_at_3": 0.23328, - "recall_at_5": 0.3095, - "recall_at_10": 0.40063, - "recall_at_50": 0.52568, - "recall_at_100": 0.55078, - "recall_at_1000": 0.55078, - "precision_at_1": 0.43934, - "precision_at_3": 0.34257, - "precision_at_5": 0.28587, - "precision_at_10": 0.19352, - "precision_at_50": 0.05129, - "precision_at_100": 0.02671, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.43934, - "mrr_at_3": 0.52779, - "mrr_at_5": 0.54297, - "mrr_at_10": 0.54826, - "mrr_at_50": 0.5513, - "mrr_at_100": 0.55146, - "mrr_at_1000": 0.55146 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.47066, - "ndcg_at_3": 0.49403, - "ndcg_at_5": 0.51297, - "ndcg_at_10": 0.53934, - "ndcg_at_50": 0.56203, - "ndcg_at_100": 0.56743, - "ndcg_at_1000": 0.56743, - "map_at_1": 0.27706, - "map_at_3": 0.40814, - "map_at_5": 0.44815, - "map_at_10": 0.47804, - "map_at_50": 0.48793, - "map_at_100": 0.48848, - "map_at_1000": 0.48848, - "recall_at_1": 0.27706, - "recall_at_3": 0.4732, - "recall_at_5": 0.54889, - "recall_at_10": 0.6264, - "recall_at_50": 0.70548, - "recall_at_100": 0.737, - "recall_at_1000": 0.737, - "precision_at_1": 0.47066, - "precision_at_3": 0.31588, - "precision_at_5": 0.24, - "precision_at_10": 0.14795, - "precision_at_50": 0.03358, - "precision_at_100": 0.0172, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.47066, - "mrr_at_3": 0.5428, - "mrr_at_5": 0.55012, - "mrr_at_10": 0.5547, - "mrr_at_50": 0.5573, - "mrr_at_100": 0.55769, - "mrr_at_1000": 0.55769 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.64145, - "ndcg_at_3": 0.57822, - "ndcg_at_5": 0.59605, - "ndcg_at_10": 0.63391, - "ndcg_at_50": 0.66672, - "ndcg_at_100": 0.67119, - "ndcg_at_1000": 0.67119, - "map_at_1": 0.32886, - "map_at_3": 0.45116, - "map_at_5": 0.49872, - "map_at_10": 0.53591, - "map_at_50": 0.55084, - "map_at_100": 0.55158, - "map_at_1000": 0.55158, - "recall_at_1": 0.32886, - "recall_at_3": 0.50911, - "recall_at_5": 0.60516, - "recall_at_10": 0.70372, - "recall_at_50": 0.80307, - "recall_at_100": 0.82356, - "recall_at_1000": 0.82356, - "precision_at_1": 0.64145, - "precision_at_3": 0.3913, - "precision_at_5": 0.2978, - "precision_at_10": 0.18618, - "precision_at_50": 0.04394, - "precision_at_100": 0.02253, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.64205, - "mrr_at_3": 0.71868, - "mrr_at_5": 0.72946, - "mrr_at_10": 0.7342, - "mrr_at_50": 0.73617, - "mrr_at_100": 0.73631, - "mrr_at_1000": 0.73631 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.62189, - "ndcg_at_3": 0.59521, - "ndcg_at_5": 0.61245, - "ndcg_at_10": 0.64318, - "ndcg_at_50": 0.66247, - "ndcg_at_100": 0.66438, - "ndcg_at_1000": 0.66438, - "map_at_1": 0.35878, - "map_at_3": 0.49099, - "map_at_5": 0.53095, - "map_at_10": 0.55947, - "map_at_50": 0.56828, - "map_at_100": 0.56855, - "map_at_1000": 0.56855, - "recall_at_1": 0.35878, - "recall_at_3": 0.5534, - "recall_at_5": 0.63277, - "recall_at_10": 0.71532, - "recall_at_50": 0.77605, - "recall_at_100": 0.78562, - "recall_at_1000": 0.78562, - "precision_at_1": 0.62189, - "precision_at_3": 0.37946, - "precision_at_5": 0.27933, - "precision_at_10": 0.16769, - "precision_at_50": 0.03734, - "precision_at_100": 0.01888, - "precision_at_1000": 0.00189, - "mrr_at_1": 0.62189, - "mrr_at_3": 0.69958, - "mrr_at_5": 0.70919, - "mrr_at_10": 0.7142, - "mrr_at_50": 0.71564, - "mrr_at_100": 0.71573, - "mrr_at_1000": 0.71573 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.49336, - "ndcg_at_3": 0.47685, - "ndcg_at_5": 0.48343, - "ndcg_at_10": 0.51177, - "ndcg_at_50": 0.53691, - "ndcg_at_100": 0.53878, - "ndcg_at_1000": 0.53878, - "map_at_1": 0.19535, - "map_at_3": 0.32694, - "map_at_5": 0.37622, - "map_at_10": 0.4127, - "map_at_50": 0.42426, - "map_at_100": 0.42449, - "map_at_1000": 0.42449, - "recall_at_1": 0.19535, - "recall_at_3": 0.39386, - "recall_at_5": 0.48164, - "recall_at_10": 0.57541, - "recall_at_50": 0.65369, - "recall_at_100": 0.66355, - "recall_at_1000": 0.66355, - "precision_at_1": 0.49336, - "precision_at_3": 0.37685, - "precision_at_5": 0.29694, - "precision_at_10": 0.18475, - "precision_at_50": 0.04176, - "precision_at_100": 0.02106, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.49336, - "mrr_at_3": 0.59657, - "mrr_at_5": 0.60541, - "mrr_at_10": 0.61027, - "mrr_at_50": 0.61249, - "mrr_at_100": 0.61262, - "mrr_at_1000": 0.61262 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.51931, - "ndcg_at_3": 0.49289, - "ndcg_at_5": 0.49784, - "ndcg_at_10": 0.52738, - "ndcg_at_50": 0.57747, - "ndcg_at_100": 0.58413, - "ndcg_at_1000": 0.58413, - "map_at_1": 0.19391, - "map_at_3": 0.31861, - "map_at_5": 0.3715, - "map_at_10": 0.42165, - "map_at_50": 0.44687, - "map_at_100": 0.44814, - "map_at_1000": 0.44814, - "recall_at_1": 0.19391, - "recall_at_3": 0.37371, - "recall_at_5": 0.47284, - "recall_at_10": 0.58594, - "recall_at_50": 0.72541, - "recall_at_100": 0.7533, - "recall_at_1000": 0.7533, - "precision_at_1": 0.51931, - "precision_at_3": 0.39592, - "precision_at_5": 0.32395, - "precision_at_10": 0.21765, - "precision_at_50": 0.05585, - "precision_at_100": 0.02895, - "precision_at_1000": 0.00289, - "mrr_at_1": 0.5199, - "mrr_at_3": 0.61458, - "mrr_at_5": 0.62881, - "mrr_at_10": 0.63553, - "mrr_at_50": 0.63859, - "mrr_at_100": 0.6388, - "mrr_at_1000": 0.6388 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.53017, - "ndcg_at_3": 0.49653, - "ndcg_at_5": 0.49906, - "ndcg_at_10": 0.52095, - "ndcg_at_50": 0.54371, - "ndcg_at_100": 0.54678, - "ndcg_at_1000": 0.54678, - "map_at_1": 0.24224, - "map_at_3": 0.35031, - "map_at_5": 0.39281, - "map_at_10": 0.42923, - "map_at_50": 0.44143, - "map_at_100": 0.44186, - "map_at_1000": 0.44186, - "recall_at_1": 0.24224, - "recall_at_3": 0.40463, - "recall_at_5": 0.48673, - "recall_at_10": 0.57216, - "recall_at_50": 0.63496, - "recall_at_100": 0.64963, - "recall_at_1000": 0.64963, - "precision_at_1": 0.53017, - "precision_at_3": 0.35794, - "precision_at_5": 0.28037, - "precision_at_10": 0.17914, - "precision_at_50": 0.04112, - "precision_at_100": 0.02093, - "precision_at_1000": 0.00209, - "mrr_at_1": 0.52958, - "mrr_at_3": 0.6114, - "mrr_at_5": 0.62292, - "mrr_at_10": 0.62671, - "mrr_at_50": 0.62816, - "mrr_at_100": 0.62835, - "mrr_at_1000": 0.62835 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.66474, - "ndcg_at_3": 0.61974, - "ndcg_at_5": 0.62445, - "ndcg_at_10": 0.68831, - "ndcg_at_50": 0.72924, - "ndcg_at_100": 0.73439, - "ndcg_at_1000": 0.73439, - "map_at_1": 0.21394, - "map_at_3": 0.40524, - "map_at_5": 0.4898, - "map_at_10": 0.58134, - "map_at_50": 0.60406, - "map_at_100": 0.60501, - "map_at_1000": 0.60501, - "recall_at_1": 0.21394, - "recall_at_3": 0.45309, - "recall_at_5": 0.58528, - "recall_at_10": 0.77003, - "recall_at_50": 0.89063, - "recall_at_100": 0.91397, - "recall_at_1000": 0.91397, - "precision_at_1": 0.66474, - "precision_at_3": 0.53372, - "precision_at_5": 0.44104, - "precision_at_10": 0.30578, - "precision_at_50": 0.06936, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.66474, - "mrr_at_3": 0.74855, - "mrr_at_5": 0.75665, - "mrr_at_10": 0.76242, - "mrr_at_50": 0.76529, - "mrr_at_100": 0.76547, - "mrr_at_1000": 0.76547 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.67868, - "ndcg_at_3": 0.61321, - "ndcg_at_5": 0.61802, - "ndcg_at_10": 0.67611, - "ndcg_at_50": 0.73381, - "ndcg_at_100": 0.73886, - "ndcg_at_1000": 0.73886, - "map_at_1": 0.19613, - "map_at_3": 0.36566, - "map_at_5": 0.46247, - "map_at_10": 0.56967, - "map_at_50": 0.60238, - "map_at_100": 0.60318, - "map_at_1000": 0.60318, - "recall_at_1": 0.19613, - "recall_at_3": 0.40626, - "recall_at_5": 0.55111, - "recall_at_10": 0.74221, - "recall_at_50": 0.90805, - "recall_at_100": 0.93196, - "recall_at_1000": 0.93196, - "precision_at_1": 0.67868, - "precision_at_3": 0.53854, - "precision_at_5": 0.46907, - "precision_at_10": 0.33664, - "precision_at_50": 0.0797, - "precision_at_100": 0.04045, - "precision_at_1000": 0.00405, - "mrr_at_1": 0.67868, - "mrr_at_3": 0.74725, - "mrr_at_5": 0.75521, - "mrr_at_10": 0.7593, - "mrr_at_50": 0.76306, - "mrr_at_100": 0.76328, - "mrr_at_1000": 0.76328 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.69231, - "ndcg_at_3": 0.63957, - "ndcg_at_5": 0.6362, - "ndcg_at_10": 0.68334, - "ndcg_at_50": 0.73308, - "ndcg_at_100": 0.73847, - "ndcg_at_1000": 0.73847, - "map_at_1": 0.20439, - "map_at_3": 0.38765, - "map_at_5": 0.48493, - "map_at_10": 0.58313, - "map_at_50": 0.61231, - "map_at_100": 0.6131, - "map_at_1000": 0.6131, - "recall_at_1": 0.20439, - "recall_at_3": 0.42786, - "recall_at_5": 0.56494, - "recall_at_10": 0.73998, - "recall_at_50": 0.88526, - "recall_at_100": 0.91266, - "recall_at_1000": 0.91266, - "precision_at_1": 0.69231, - "precision_at_3": 0.55917, - "precision_at_5": 0.47515, - "precision_at_10": 0.33402, - "precision_at_50": 0.07793, - "precision_at_100": 0.03956, - "precision_at_1000": 0.00396, - "mrr_at_1": 0.69231, - "mrr_at_3": 0.75296, - "mrr_at_5": 0.75917, - "mrr_at_10": 0.76573, - "mrr_at_50": 0.76868, - "mrr_at_100": 0.76894, - "mrr_at_1000": 0.76894 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.72861, - "ndcg_at_3": 0.67944, - "ndcg_at_5": 0.68825, - "ndcg_at_10": 0.74764, - "ndcg_at_50": 0.79142, - "ndcg_at_100": 0.79463, - "ndcg_at_1000": 0.79463, - "map_at_1": 0.24279, - "map_at_3": 0.4616, - "map_at_5": 0.55376, - "map_at_10": 0.64354, - "map_at_50": 0.67015, - "map_at_100": 0.67082, - "map_at_1000": 0.67082, - "recall_at_1": 0.24279, - "recall_at_3": 0.51259, - "recall_at_5": 0.65141, - "recall_at_10": 0.82577, - "recall_at_50": 0.94849, - "recall_at_100": 0.96241, - "recall_at_1000": 0.96241, - "precision_at_1": 0.72861, - "precision_at_3": 0.58604, - "precision_at_5": 0.47847, - "precision_at_10": 0.32153, - "precision_at_50": 0.07386, - "precision_at_100": 0.03737, - "precision_at_1000": 0.00374, - "mrr_at_1": 0.72861, - "mrr_at_3": 0.80826, - "mrr_at_5": 0.81519, - "mrr_at_10": 0.81741, - "mrr_at_50": 0.81939, - "mrr_at_100": 0.81944, - "mrr_at_1000": 0.81944 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.80435, - "ndcg_at_3": 0.74115, - "ndcg_at_5": 0.73814, - "ndcg_at_10": 0.7924, - "ndcg_at_50": 0.83044, - "ndcg_at_100": 0.83381, - "ndcg_at_1000": 0.83381, - "map_at_1": 0.28857, - "map_at_3": 0.50165, - "map_at_5": 0.60057, - "map_at_10": 0.69541, - "map_at_50": 0.71983, - "map_at_100": 0.72047, - "map_at_1000": 0.72047, - "recall_at_1": 0.28857, - "recall_at_3": 0.54108, - "recall_at_5": 0.68458, - "recall_at_10": 0.84616, - "recall_at_50": 0.94951, - "recall_at_100": 0.96491, - "recall_at_1000": 0.96491, - "precision_at_1": 0.80435, - "precision_at_3": 0.61594, - "precision_at_5": 0.50217, - "precision_at_10": 0.34185, - "precision_at_50": 0.07707, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.80435, - "mrr_at_3": 0.86685, - "mrr_at_5": 0.8716, - "mrr_at_10": 0.8724, - "mrr_at_50": 0.87355, - "mrr_at_100": 0.87362, - "mrr_at_1000": 0.87362 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.65774, - "ndcg_at_3": 0.5987, - "ndcg_at_5": 0.60802, - "ndcg_at_10": 0.65544, - "ndcg_at_50": 0.69328, - "ndcg_at_100": 0.69758, - "ndcg_at_1000": 0.69758, - "map_at_1": 0.26717, - "map_at_3": 0.44489, - "map_at_5": 0.50969, - "map_at_10": 0.56794, - "map_at_50": 0.58629, - "map_at_100": 0.58698, - "map_at_1000": 0.58698, - "recall_at_1": 0.26717, - "recall_at_3": 0.48776, - "recall_at_5": 0.5927, - "recall_at_10": 0.71823, - "recall_at_50": 0.84134, - "recall_at_100": 0.86295, - "recall_at_1000": 0.86295, - "precision_at_1": 0.65774, - "precision_at_3": 0.46131, - "precision_at_5": 0.36488, - "precision_at_10": 0.2372, - "precision_at_50": 0.0547, - "precision_at_100": 0.02783, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.65774, - "mrr_at_3": 0.72123, - "mrr_at_5": 0.72808, - "mrr_at_10": 0.73233, - "mrr_at_50": 0.73505, - "mrr_at_100": 0.73522, - "mrr_at_1000": 0.73522 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.67887, - "ndcg_at_3": 0.61777, - "ndcg_at_5": 0.6535, - "ndcg_at_10": 0.71103, - "ndcg_at_50": 0.74002, - "ndcg_at_100": 0.74309, - "ndcg_at_1000": 0.74309, - "map_at_1": 0.32696, - "map_at_3": 0.48491, - "map_at_5": 0.55275, - "map_at_10": 0.60614, - "map_at_50": 0.62112, - "map_at_100": 0.62156, - "map_at_1000": 0.62156, - "recall_at_1": 0.32696, - "recall_at_3": 0.55027, - "recall_at_5": 0.67897, - "recall_at_10": 0.80989, - "recall_at_50": 0.89891, - "recall_at_100": 0.91525, - "recall_at_1000": 0.91525, - "precision_at_1": 0.67887, - "precision_at_3": 0.43756, - "precision_at_5": 0.34704, - "precision_at_10": 0.22254, - "precision_at_50": 0.04997, - "precision_at_100": 0.0253, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.67887, - "mrr_at_3": 0.76573, - "mrr_at_5": 0.77587, - "mrr_at_10": 0.7795, - "mrr_at_50": 0.7808, - "mrr_at_100": 0.78094, - "mrr_at_1000": 0.78094 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.66387, - "ndcg_at_3": 0.62609, - "ndcg_at_5": 0.66251, - "ndcg_at_10": 0.72102, - "ndcg_at_50": 0.74626, - "ndcg_at_100": 0.74861, - "ndcg_at_1000": 0.74861, - "map_at_1": 0.32504, - "map_at_3": 0.49906, - "map_at_5": 0.56606, - "map_at_10": 0.61857, - "map_at_50": 0.63132, - "map_at_100": 0.63173, - "map_at_1000": 0.63173, - "recall_at_1": 0.32504, - "recall_at_3": 0.56832, - "recall_at_5": 0.69337, - "recall_at_10": 0.82963, - "recall_at_50": 0.90831, - "recall_at_100": 0.91945, - "recall_at_1000": 0.91945, - "precision_at_1": 0.66387, - "precision_at_3": 0.45098, - "precision_at_5": 0.35742, - "precision_at_10": 0.22605, - "precision_at_50": 0.04969, - "precision_at_100": 0.02513, - "precision_at_1000": 0.00251, - "mrr_at_1": 0.66387, - "mrr_at_3": 0.75677, - "mrr_at_5": 0.76559, - "mrr_at_10": 0.76938, - "mrr_at_50": 0.77111, - "mrr_at_100": 0.77114, - "mrr_at_1000": 0.77114 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.70968, - "ndcg_at_3": 0.65966, - "ndcg_at_5": 0.66607, - "ndcg_at_10": 0.72209, - "ndcg_at_50": 0.74836, - "ndcg_at_100": 0.75247, - "ndcg_at_1000": 0.75247, - "map_at_1": 0.36562, - "map_at_3": 0.53225, - "map_at_5": 0.58051, - "map_at_10": 0.63042, - "map_at_50": 0.64333, - "map_at_100": 0.64387, - "map_at_1000": 0.64387, - "recall_at_1": 0.36562, - "recall_at_3": 0.58276, - "recall_at_5": 0.66728, - "recall_at_10": 0.79599, - "recall_at_50": 0.87574, - "recall_at_100": 0.89724, - "recall_at_1000": 0.89724, - "precision_at_1": 0.70968, - "precision_at_3": 0.4543, - "precision_at_5": 0.33548, - "precision_at_10": 0.21237, - "precision_at_50": 0.04742, - "precision_at_100": 0.02411, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.70968, - "mrr_at_3": 0.78136, - "mrr_at_5": 0.78902, - "mrr_at_10": 0.79304, - "mrr_at_50": 0.79441, - "mrr_at_100": 0.79459, - "mrr_at_1000": 0.79459 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.63934, - "ndcg_at_3": 0.57768, - "ndcg_at_5": 0.59814, - "ndcg_at_10": 0.65395, - "ndcg_at_50": 0.68938, - "ndcg_at_100": 0.6967, - "ndcg_at_1000": 0.6967, - "map_at_1": 0.25722, - "map_at_3": 0.42045, - "map_at_5": 0.49009, - "map_at_10": 0.54939, - "map_at_50": 0.56668, - "map_at_100": 0.56776, - "map_at_1000": 0.56776, - "recall_at_1": 0.25722, - "recall_at_3": 0.47614, - "recall_at_5": 0.60134, - "recall_at_10": 0.74214, - "recall_at_50": 0.85329, - "recall_at_100": 0.88922, - "recall_at_1000": 0.88922, - "precision_at_1": 0.63934, - "precision_at_3": 0.45264, - "precision_at_5": 0.36448, - "precision_at_10": 0.23934, - "precision_at_50": 0.05475, - "precision_at_100": 0.0282, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.63934, - "mrr_at_3": 0.71585, - "mrr_at_5": 0.7265, - "mrr_at_10": 0.73203, - "mrr_at_50": 0.73428, - "mrr_at_100": 0.73467, - "mrr_at_1000": 0.73467 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.6, - "ndcg_at_3": 0.5983, - "ndcg_at_5": 0.64222, - "ndcg_at_10": 0.70686, - "ndcg_at_50": 0.73646, - "ndcg_at_100": 0.7409, - "ndcg_at_1000": 0.7409, - "map_at_1": 0.33294, - "map_at_3": 0.49937, - "map_at_5": 0.55824, - "map_at_10": 0.60982, - "map_at_50": 0.62286, - "map_at_100": 0.62355, - "map_at_1000": 0.62355, - "recall_at_1": 0.33294, - "recall_at_3": 0.57114, - "recall_at_5": 0.70253, - "recall_at_10": 0.85218, - "recall_at_50": 0.95396, - "recall_at_100": 0.97581, - "recall_at_1000": 0.97581, - "precision_at_1": 0.6, - "precision_at_3": 0.4036, - "precision_at_5": 0.31459, - "precision_at_10": 0.20324, - "precision_at_50": 0.0453, - "precision_at_100": 0.02311, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.6, - "mrr_at_3": 0.69099, - "mrr_at_5": 0.70977, - "mrr_at_10": 0.71723, - "mrr_at_50": 0.72004, - "mrr_at_100": 0.72015, - "mrr_at_1000": 0.72015 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.44785, - "ndcg_at_3": 0.48005, - "ndcg_at_5": 0.53317, - "ndcg_at_10": 0.59194, - "ndcg_at_50": 0.6356, - "ndcg_at_100": 0.63941, - "ndcg_at_1000": 0.63941, - "map_at_1": 0.28321, - "map_at_3": 0.40689, - "map_at_5": 0.45521, - "map_at_10": 0.49503, - "map_at_50": 0.51222, - "map_at_100": 0.51272, - "map_at_1000": 0.51272, - "recall_at_1": 0.28321, - "recall_at_3": 0.49029, - "recall_at_5": 0.62159, - "recall_at_10": 0.76536, - "recall_at_50": 0.91922, - "recall_at_100": 0.93967, - "recall_at_1000": 0.93967, - "precision_at_1": 0.44785, - "precision_at_3": 0.2955, - "precision_at_5": 0.2362, - "precision_at_10": 0.15307, - "precision_at_50": 0.03656, - "precision_at_100": 0.01862, - "precision_at_1000": 0.00186, - "mrr_at_1": 0.44785, - "mrr_at_3": 0.54857, - "mrr_at_5": 0.57434, - "mrr_at_10": 0.58465, - "mrr_at_50": 0.58973, - "mrr_at_100": 0.58985, - "mrr_at_1000": 0.58985 - }, - "gpt3": { - "ndcg_at_1": 0.4184, - "ndcg_at_3": 0.47601, - "ndcg_at_5": 0.51915, - "ndcg_at_10": 0.56474, - "ndcg_at_50": 0.61179, - "ndcg_at_100": 0.61914, - "ndcg_at_1000": 0.61914, - "map_at_1": 0.33061, - "map_at_3": 0.43018, - "map_at_5": 0.46132, - "map_at_10": 0.48612, - "map_at_50": 0.49968, - "map_at_100": 0.50041, - "map_at_1000": 0.50041, - "recall_at_1": 0.33061, - "recall_at_3": 0.51682, - "recall_at_5": 0.61128, - "recall_at_10": 0.73195, - "recall_at_50": 0.91716, - "recall_at_100": 0.96068, - "recall_at_1000": 0.96068, - "precision_at_1": 0.4184, - "precision_at_3": 0.23838, - "precision_at_5": 0.17507, - "precision_at_10": 0.1089, - "precision_at_50": 0.0273, - "precision_at_100": 0.01418, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.4184, - "mrr_at_3": 0.5178, - "mrr_at_5": 0.53323, - "mrr_at_10": 0.54536, - "mrr_at_50": 0.55335, - "mrr_at_100": 0.55385, - "mrr_at_1000": 0.55385 - }, - "llm-survey": { - "ndcg_at_1": 0.53221, - "ndcg_at_3": 0.51621, - "ndcg_at_5": 0.54162, - "ndcg_at_10": 0.58674, - "ndcg_at_50": 0.62845, - "ndcg_at_100": 0.64002, - "ndcg_at_1000": 0.64002, - "map_at_1": 0.24404, - "map_at_3": 0.40354, - "map_at_5": 0.45151, - "map_at_10": 0.4947, - "map_at_50": 0.51123, - "map_at_100": 0.51273, - "map_at_1000": 0.51273, - "recall_at_1": 0.24404, - "recall_at_3": 0.46999, - "recall_at_5": 0.57076, - "recall_at_10": 0.68152, - "recall_at_50": 0.82681, - "recall_at_100": 0.88877, - "recall_at_1000": 0.88877, - "precision_at_1": 0.53221, - "precision_at_3": 0.38562, - "precision_at_5": 0.29748, - "precision_at_10": 0.18964, - "precision_at_50": 0.04471, - "precision_at_100": 0.02345, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.53221, - "mrr_at_3": 0.61578, - "mrr_at_5": 0.63259, - "mrr_at_10": 0.6362, - "mrr_at_50": 0.64101, - "mrr_at_100": 0.64158, - "mrr_at_1000": 0.64158 - }, - "gemini": { - "ndcg_at_1": 0.46586, - "ndcg_at_3": 0.57496, - "ndcg_at_5": 0.60677, - "ndcg_at_10": 0.63689, - "ndcg_at_50": 0.66154, - "ndcg_at_100": 0.66478, - "ndcg_at_1000": 0.66478, - "map_at_1": 0.46586, - "map_at_3": 0.54752, - "map_at_5": 0.56539, - "map_at_10": 0.57722, - "map_at_50": 0.5824, - "map_at_100": 0.58268, - "map_at_1000": 0.58268, - "recall_at_1": 0.46586, - "recall_at_3": 0.65462, - "recall_at_5": 0.73092, - "recall_at_10": 0.82731, - "recall_at_50": 0.93976, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.46586, - "precision_at_3": 0.21821, - "precision_at_5": 0.14618, - "precision_at_10": 0.08273, - "precision_at_50": 0.0188, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.46586, - "mrr_at_3": 0.54752, - "mrr_at_5": 0.56539, - "mrr_at_10": 0.57722, - "mrr_at_50": 0.58241, - "mrr_at_100": 0.58269, - "mrr_at_1000": 0.58269 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.80562, - "ndcg_at_3": 0.73138, - "ndcg_at_5": 0.7414, - "ndcg_at_10": 0.78889, - "ndcg_at_50": 0.82162, - "ndcg_at_100": 0.82288, - "ndcg_at_1000": 0.82288, - "map_at_1": 0.33727, - "map_at_3": 0.54414, - "map_at_5": 0.6314, - "map_at_10": 0.70203, - "map_at_50": 0.72219, - "map_at_100": 0.72242, - "map_at_1000": 0.72242, - "recall_at_1": 0.33727, - "recall_at_3": 0.58354, - "recall_at_5": 0.71366, - "recall_at_10": 0.8539, - "recall_at_50": 0.94758, - "recall_at_100": 0.95363, - "recall_at_1000": 0.95363, - "precision_at_1": 0.80562, - "precision_at_3": 0.56369, - "precision_at_5": 0.44769, - "precision_at_10": 0.28673, - "precision_at_50": 0.06423, - "precision_at_100": 0.03226, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.80562, - "mrr_at_3": 0.84994, - "mrr_at_5": 0.85487, - "mrr_at_10": 0.85822, - "mrr_at_50": 0.85964, - "mrr_at_100": 0.85968, - "mrr_at_1000": 0.85968 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.38923, - "ndcg_at_3": 0.34963, - "ndcg_at_5": 0.34979, - "ndcg_at_10": 0.36655, - "ndcg_at_50": 0.39355, - "ndcg_at_100": 0.39578, - "ndcg_at_1000": 0.39578, - "map_at_1": 0.15846, - "map_at_3": 0.24124, - "map_at_5": 0.27414, - "map_at_10": 0.30444, - "map_at_50": 0.31845, - "map_at_100": 0.31876, - "map_at_1000": 0.31876, - "recall_at_1": 0.15846, - "recall_at_3": 0.27139, - "recall_at_5": 0.32625, - "recall_at_10": 0.39268, - "recall_at_50": 0.4681, - "recall_at_100": 0.47893, - "recall_at_1000": 0.47893, - "precision_at_1": 0.38923, - "precision_at_3": 0.26596, - "precision_at_5": 0.21077, - "precision_at_10": 0.13809, - "precision_at_50": 0.03417, - "precision_at_100": 0.01735, - "precision_at_1000": 0.00173, - "mrr_at_1": 0.38923, - "mrr_at_3": 0.43522, - "mrr_at_5": 0.44338, - "mrr_at_10": 0.44772, - "mrr_at_50": 0.45003, - "mrr_at_100": 0.45017, - "mrr_at_1000": 0.45017 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.62404, - "ndcg_at_3": 0.56577, - "ndcg_at_5": 0.5549, - "ndcg_at_10": 0.57999, - "ndcg_at_50": 0.62335, - "ndcg_at_100": 0.62511, - "ndcg_at_1000": 0.62511, - "map_at_1": 0.19174, - "map_at_3": 0.33695, - "map_at_5": 0.40767, - "map_at_10": 0.47362, - "map_at_50": 0.50038, - "map_at_100": 0.50075, - "map_at_1000": 0.50075, - "recall_at_1": 0.19174, - "recall_at_3": 0.3743, - "recall_at_5": 0.48252, - "recall_at_10": 0.60602, - "recall_at_50": 0.71528, - "recall_at_100": 0.72257, - "recall_at_1000": 0.72257, - "precision_at_1": 0.62404, - "precision_at_3": 0.48831, - "precision_at_5": 0.40507, - "precision_at_10": 0.27225, - "precision_at_50": 0.0656, - "precision_at_100": 0.03307, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.62404, - "mrr_at_3": 0.69927, - "mrr_at_5": 0.7087, - "mrr_at_10": 0.71403, - "mrr_at_50": 0.71617, - "mrr_at_100": 0.71621, - "mrr_at_1000": 0.71621 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.62887, - "ndcg_at_3": 0.59387, - "ndcg_at_5": 0.59189, - "ndcg_at_10": 0.6084, - "ndcg_at_50": 0.63925, - "ndcg_at_100": 0.64086, - "ndcg_at_1000": 0.64086, - "map_at_1": 0.27801, - "map_at_3": 0.42186, - "map_at_5": 0.48056, - "map_at_10": 0.53064, - "map_at_50": 0.55092, - "map_at_100": 0.55123, - "map_at_1000": 0.55123, - "recall_at_1": 0.27801, - "recall_at_3": 0.45907, - "recall_at_5": 0.54506, - "recall_at_10": 0.63754, - "recall_at_50": 0.71594, - "recall_at_100": 0.72301, - "recall_at_1000": 0.72301, - "precision_at_1": 0.62887, - "precision_at_3": 0.44486, - "precision_at_5": 0.3544, - "precision_at_10": 0.23036, - "precision_at_50": 0.05454, - "precision_at_100": 0.02752, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.62887, - "mrr_at_3": 0.6898, - "mrr_at_5": 0.69658, - "mrr_at_10": 0.70127, - "mrr_at_50": 0.70261, - "mrr_at_100": 0.70265, - "mrr_at_1000": 0.70265 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.73825, - "ndcg_at_3": 0.68913, - "ndcg_at_5": 0.67227, - "ndcg_at_10": 0.68957, - "ndcg_at_50": 0.742, - "ndcg_at_100": 0.74397, - "ndcg_at_1000": 0.74397, - "map_at_1": 0.20605, - "map_at_3": 0.39359, - "map_at_5": 0.49095, - "map_at_10": 0.58814, - "map_at_50": 0.62725, - "map_at_100": 0.62779, - "map_at_1000": 0.62779, - "recall_at_1": 0.20605, - "recall_at_3": 0.42564, - "recall_at_5": 0.55519, - "recall_at_10": 0.71205, - "recall_at_50": 0.83644, - "recall_at_100": 0.84362, - "recall_at_1000": 0.84362, - "precision_at_1": 0.73825, - "precision_at_3": 0.60759, - "precision_at_5": 0.51689, - "precision_at_10": 0.35965, - "precision_at_50": 0.08699, - "precision_at_100": 0.04386, - "precision_at_1000": 0.00439, - "mrr_at_1": 0.73825, - "mrr_at_3": 0.79554, - "mrr_at_5": 0.80242, - "mrr_at_10": 0.80588, - "mrr_at_50": 0.80711, - "mrr_at_100": 0.80713, - "mrr_at_1000": 0.80713 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.65475, - "ndcg_at_3": 0.57944, - "ndcg_at_5": 0.54074, - "ndcg_at_10": 0.54981, - "ndcg_at_50": 0.60824, - "ndcg_at_100": 0.61078, - "ndcg_at_1000": 0.61078, - "map_at_1": 0.13787, - "map_at_3": 0.2801, - "map_at_5": 0.35341, - "map_at_10": 0.42403, - "map_at_50": 0.46104, - "map_at_100": 0.46168, - "map_at_1000": 0.46168, - "recall_at_1": 0.13787, - "recall_at_3": 0.31012, - "recall_at_5": 0.41647, - "recall_at_10": 0.5485, - "recall_at_50": 0.68759, - "recall_at_100": 0.69692, - "recall_at_1000": 0.69692, - "precision_at_1": 0.65475, - "precision_at_3": 0.53664, - "precision_at_5": 0.45069, - "precision_at_10": 0.3088, - "precision_at_50": 0.07856, - "precision_at_100": 0.03974, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.65368, - "mrr_at_3": 0.72661, - "mrr_at_5": 0.73512, - "mrr_at_10": 0.73992, - "mrr_at_50": 0.74163, - "mrr_at_100": 0.74166, - "mrr_at_1000": 0.74166 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.61336, - "ndcg_at_3": 0.57153, - "ndcg_at_5": 0.58191, - "ndcg_at_10": 0.61851, - "ndcg_at_50": 0.64951, - "ndcg_at_100": 0.65101, - "ndcg_at_1000": 0.65101, - "map_at_1": 0.26989, - "map_at_3": 0.43261, - "map_at_5": 0.48267, - "map_at_10": 0.52219, - "map_at_50": 0.53825, - "map_at_100": 0.53849, - "map_at_1000": 0.53849, - "recall_at_1": 0.26989, - "recall_at_3": 0.48934, - "recall_at_5": 0.58428, - "recall_at_10": 0.68775, - "recall_at_50": 0.77643, - "recall_at_100": 0.78378, - "recall_at_1000": 0.78378, - "precision_at_1": 0.61336, - "precision_at_3": 0.42921, - "precision_at_5": 0.32455, - "precision_at_10": 0.20123, - "precision_at_50": 0.04669, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.61277, - "mrr_at_3": 0.69108, - "mrr_at_5": 0.70221, - "mrr_at_10": 0.70778, - "mrr_at_50": 0.70946, - "mrr_at_100": 0.70951, - "mrr_at_1000": 0.70951 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.51302, - "ndcg_at_3": 0.44282, - "ndcg_at_5": 0.42485, - "ndcg_at_10": 0.44261, - "ndcg_at_50": 0.48028, - "ndcg_at_100": 0.48185, - "ndcg_at_1000": 0.48185, - "map_at_1": 0.13593, - "map_at_3": 0.24094, - "map_at_5": 0.29094, - "map_at_10": 0.33508, - "map_at_50": 0.35689, - "map_at_100": 0.35718, - "map_at_1000": 0.35718, - "recall_at_1": 0.13593, - "recall_at_3": 0.27331, - "recall_at_5": 0.35535, - "recall_at_10": 0.44943, - "recall_at_50": 0.54428, - "recall_at_100": 0.55078, - "recall_at_1000": 0.55078, - "precision_at_1": 0.51302, - "precision_at_3": 0.39261, - "precision_at_5": 0.32388, - "precision_at_10": 0.21518, - "precision_at_50": 0.05295, - "precision_at_100": 0.02671, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.51302, - "mrr_at_3": 0.58901, - "mrr_at_5": 0.60131, - "mrr_at_10": 0.60734, - "mrr_at_50": 0.60927, - "mrr_at_100": 0.60931, - "mrr_at_1000": 0.60931 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.54259, - "ndcg_at_3": 0.56027, - "ndcg_at_5": 0.57471, - "ndcg_at_10": 0.59577, - "ndcg_at_50": 0.61592, - "ndcg_at_100": 0.6174, - "ndcg_at_1000": 0.6174, - "map_at_1": 0.34021, - "map_at_3": 0.4794, - "map_at_5": 0.51667, - "map_at_10": 0.54311, - "map_at_50": 0.55308, - "map_at_100": 0.55327, - "map_at_1000": 0.55327, - "recall_at_1": 0.34021, - "recall_at_3": 0.53283, - "recall_at_5": 0.60045, - "recall_at_10": 0.66314, - "recall_at_50": 0.72885, - "recall_at_100": 0.737, - "recall_at_1000": 0.737, - "precision_at_1": 0.54259, - "precision_at_3": 0.34448, - "precision_at_5": 0.25401, - "precision_at_10": 0.1523, - "precision_at_50": 0.03415, - "precision_at_100": 0.0172, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.54259, - "mrr_at_3": 0.60389, - "mrr_at_5": 0.61077, - "mrr_at_10": 0.61387, - "mrr_at_50": 0.61602, - "mrr_at_100": 0.6161, - "mrr_at_1000": 0.6161 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.79095, - "ndcg_at_3": 0.69652, - "ndcg_at_5": 0.70767, - "ndcg_at_10": 0.73411, - "ndcg_at_50": 0.7525, - "ndcg_at_100": 0.75335, - "ndcg_at_1000": 0.75335, - "map_at_1": 0.41157, - "map_at_3": 0.56435, - "map_at_5": 0.61654, - "map_at_10": 0.64966, - "map_at_50": 0.66022, - "map_at_100": 0.66036, - "map_at_1000": 0.66036, - "recall_at_1": 0.41157, - "recall_at_3": 0.60686, - "recall_at_5": 0.69609, - "recall_at_10": 0.76978, - "recall_at_50": 0.8196, - "recall_at_100": 0.82356, - "recall_at_1000": 0.82356, - "precision_at_1": 0.79095, - "precision_at_3": 0.46615, - "precision_at_5": 0.34544, - "precision_at_10": 0.20387, - "precision_at_50": 0.04484, - "precision_at_100": 0.02253, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.79095, - "mrr_at_3": 0.8385, - "mrr_at_5": 0.84305, - "mrr_at_10": 0.84496, - "mrr_at_50": 0.84544, - "mrr_at_100": 0.84548, - "mrr_at_1000": 0.84548 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.74986, - "ndcg_at_3": 0.68868, - "ndcg_at_5": 0.6963, - "ndcg_at_10": 0.71436, - "ndcg_at_50": 0.72787, - "ndcg_at_100": 0.72839, - "ndcg_at_1000": 0.72839, - "map_at_1": 0.43776, - "map_at_3": 0.58586, - "map_at_5": 0.62437, - "map_at_10": 0.64666, - "map_at_50": 0.65366, - "map_at_100": 0.65376, - "map_at_1000": 0.65376, - "recall_at_1": 0.43776, - "recall_at_3": 0.62553, - "recall_at_5": 0.69091, - "recall_at_10": 0.74394, - "recall_at_50": 0.78344, - "recall_at_100": 0.78562, - "recall_at_1000": 0.78562, - "precision_at_1": 0.74986, - "precision_at_3": 0.43061, - "precision_at_5": 0.30573, - "precision_at_10": 0.17406, - "precision_at_50": 0.03761, - "precision_at_100": 0.01888, - "precision_at_1000": 0.00189, - "mrr_at_1": 0.75043, - "mrr_at_3": 0.79666, - "mrr_at_5": 0.80118, - "mrr_at_10": 0.80358, - "mrr_at_50": 0.80441, - "mrr_at_100": 0.80441, - "mrr_at_1000": 0.80441 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.57366, - "ndcg_at_3": 0.51511, - "ndcg_at_5": 0.51767, - "ndcg_at_10": 0.54418, - "ndcg_at_50": 0.5688, - "ndcg_at_100": 0.56988, - "ndcg_at_1000": 0.56988, - "map_at_1": 0.2489, - "map_at_3": 0.37097, - "map_at_5": 0.41574, - "map_at_10": 0.44933, - "map_at_50": 0.46169, - "map_at_100": 0.46184, - "map_at_1000": 0.46184, - "recall_at_1": 0.2489, - "recall_at_3": 0.42012, - "recall_at_5": 0.50202, - "recall_at_10": 0.58713, - "recall_at_50": 0.6582, - "recall_at_100": 0.66355, - "recall_at_1000": 0.66355, - "precision_at_1": 0.57366, - "precision_at_3": 0.38475, - "precision_at_5": 0.29497, - "precision_at_10": 0.18348, - "precision_at_50": 0.04188, - "precision_at_100": 0.02106, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.57366, - "mrr_at_3": 0.64616, - "mrr_at_5": 0.65566, - "mrr_at_10": 0.66002, - "mrr_at_50": 0.66182, - "mrr_at_100": 0.66187, - "mrr_at_1000": 0.66187 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.66548, - "ndcg_at_3": 0.60604, - "ndcg_at_5": 0.60383, - "ndcg_at_10": 0.62817, - "ndcg_at_50": 0.66066, - "ndcg_at_100": 0.66197, - "ndcg_at_1000": 0.66197, - "map_at_1": 0.25825, - "map_at_3": 0.41334, - "map_at_5": 0.47668, - "map_at_10": 0.53075, - "map_at_50": 0.55084, - "map_at_100": 0.55114, - "map_at_1000": 0.55114, - "recall_at_1": 0.25825, - "recall_at_3": 0.45688, - "recall_at_5": 0.55796, - "recall_at_10": 0.66439, - "recall_at_50": 0.74819, - "recall_at_100": 0.7533, - "recall_at_1000": 0.7533, - "precision_at_1": 0.66548, - "precision_at_3": 0.47673, - "precision_at_5": 0.38146, - "precision_at_10": 0.24694, - "precision_at_50": 0.05746, - "precision_at_100": 0.02895, - "precision_at_1000": 0.00289, - "mrr_at_1": 0.66548, - "mrr_at_3": 0.73084, - "mrr_at_5": 0.74094, - "mrr_at_10": 0.74513, - "mrr_at_50": 0.74662, - "mrr_at_100": 0.74664, - "mrr_at_1000": 0.74664 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.62273, - "ndcg_at_3": 0.56993, - "ndcg_at_5": 0.56496, - "ndcg_at_10": 0.57727, - "ndcg_at_50": 0.59492, - "ndcg_at_100": 0.59568, - "ndcg_at_1000": 0.59568, - "map_at_1": 0.29913, - "map_at_3": 0.41914, - "map_at_5": 0.46325, - "map_at_10": 0.49512, - "map_at_50": 0.50593, - "map_at_100": 0.50605, - "map_at_1000": 0.50605, - "recall_at_1": 0.29913, - "recall_at_3": 0.46227, - "recall_at_5": 0.53493, - "recall_at_10": 0.60139, - "recall_at_50": 0.64619, - "recall_at_100": 0.64963, - "recall_at_1000": 0.64963, - "precision_at_1": 0.62273, - "precision_at_3": 0.40012, - "precision_at_5": 0.3058, - "precision_at_10": 0.18653, - "precision_at_50": 0.04166, - "precision_at_100": 0.02093, - "precision_at_1000": 0.00209, - "mrr_at_1": 0.62273, - "mrr_at_3": 0.68473, - "mrr_at_5": 0.69141, - "mrr_at_10": 0.69429, - "mrr_at_50": 0.69506, - "mrr_at_100": 0.69508, - "mrr_at_1000": 0.69508 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.71965, - "ndcg_at_3": 0.68727, - "ndcg_at_5": 0.68632, - "ndcg_at_10": 0.73121, - "ndcg_at_50": 0.77099, - "ndcg_at_100": 0.77238, - "ndcg_at_1000": 0.77238, - "map_at_1": 0.23807, - "map_at_3": 0.46661, - "map_at_5": 0.55687, - "map_at_10": 0.62868, - "map_at_50": 0.65426, - "map_at_100": 0.65451, - "map_at_1000": 0.65451, - "recall_at_1": 0.23807, - "recall_at_3": 0.51911, - "recall_at_5": 0.65135, - "recall_at_10": 0.8019, - "recall_at_50": 0.90819, - "recall_at_100": 0.91397, - "recall_at_1000": 0.91397, - "precision_at_1": 0.71965, - "precision_at_3": 0.58863, - "precision_at_5": 0.47283, - "precision_at_10": 0.3052, - "precision_at_50": 0.07029, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.71965, - "mrr_at_3": 0.79624, - "mrr_at_5": 0.80491, - "mrr_at_10": 0.80986, - "mrr_at_50": 0.81117, - "mrr_at_100": 0.81122, - "mrr_at_1000": 0.81122 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.70871, - "ndcg_at_3": 0.67194, - "ndcg_at_5": 0.67141, - "ndcg_at_10": 0.72, - "ndcg_at_50": 0.77249, - "ndcg_at_100": 0.774, - "ndcg_at_1000": 0.774, - "map_at_1": 0.21981, - "map_at_3": 0.42281, - "map_at_5": 0.5218, - "map_at_10": 0.61837, - "map_at_50": 0.65105, - "map_at_100": 0.65139, - "map_at_1000": 0.65139, - "recall_at_1": 0.21981, - "recall_at_3": 0.46265, - "recall_at_5": 0.60396, - "recall_at_10": 0.78113, - "recall_at_50": 0.92607, - "recall_at_100": 0.93196, - "recall_at_1000": 0.93196, - "precision_at_1": 0.70871, - "precision_at_3": 0.59059, - "precision_at_5": 0.5003, - "precision_at_10": 0.34204, - "precision_at_50": 0.08042, - "precision_at_100": 0.04045, - "precision_at_1000": 0.00405, - "mrr_at_1": 0.70871, - "mrr_at_3": 0.78428, - "mrr_at_5": 0.79525, - "mrr_at_10": 0.79845, - "mrr_at_50": 0.80005, - "mrr_at_100": 0.80005, - "mrr_at_1000": 0.80005 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.76627, - "ndcg_at_3": 0.7115, - "ndcg_at_5": 0.70816, - "ndcg_at_10": 0.7458, - "ndcg_at_50": 0.78875, - "ndcg_at_100": 0.79062, - "ndcg_at_1000": 0.79062, - "map_at_1": 0.24792, - "map_at_3": 0.46363, - "map_at_5": 0.56051, - "map_at_10": 0.64989, - "map_at_50": 0.67917, - "map_at_100": 0.67956, - "map_at_1000": 0.67956, - "recall_at_1": 0.24792, - "recall_at_3": 0.49863, - "recall_at_5": 0.64056, - "recall_at_10": 0.79483, - "recall_at_50": 0.90489, - "recall_at_100": 0.91266, - "recall_at_1000": 0.91266, - "precision_at_1": 0.76627, - "precision_at_3": 0.60454, - "precision_at_5": 0.50059, - "precision_at_10": 0.33757, - "precision_at_50": 0.07852, - "precision_at_100": 0.03956, - "precision_at_1000": 0.00396, - "mrr_at_1": 0.76627, - "mrr_at_3": 0.81903, - "mrr_at_5": 0.82761, - "mrr_at_10": 0.83022, - "mrr_at_50": 0.83165, - "mrr_at_100": 0.83169, - "mrr_at_1000": 0.83169 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.77876, - "ndcg_at_3": 0.72765, - "ndcg_at_5": 0.73416, - "ndcg_at_10": 0.77842, - "ndcg_at_50": 0.82323, - "ndcg_at_100": 0.82518, - "ndcg_at_1000": 0.82518, - "map_at_1": 0.27005, - "map_at_3": 0.51694, - "map_at_5": 0.61191, - "map_at_10": 0.68631, - "map_at_50": 0.71597, - "map_at_100": 0.71625, - "map_at_1000": 0.71625, - "recall_at_1": 0.27005, - "recall_at_3": 0.55799, - "recall_at_5": 0.69766, - "recall_at_10": 0.83539, - "recall_at_50": 0.95346, - "recall_at_100": 0.96241, - "recall_at_1000": 0.96241, - "precision_at_1": 0.77876, - "precision_at_3": 0.61652, - "precision_at_5": 0.49558, - "precision_at_10": 0.31858, - "precision_at_50": 0.07434, - "precision_at_100": 0.03737, - "precision_at_1000": 0.00374, - "mrr_at_1": 0.77876, - "mrr_at_3": 0.83923, - "mrr_at_5": 0.84676, - "mrr_at_10": 0.84895, - "mrr_at_50": 0.85018, - "mrr_at_100": 0.85029, - "mrr_at_1000": 0.85029 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.86957, - "ndcg_at_3": 0.79789, - "ndcg_at_5": 0.78336, - "ndcg_at_10": 0.8246, - "ndcg_at_50": 0.86655, - "ndcg_at_100": 0.86777, - "ndcg_at_1000": 0.86777, - "map_at_1": 0.32095, - "map_at_3": 0.55972, - "map_at_5": 0.65129, - "map_at_10": 0.73485, - "map_at_50": 0.76412, - "map_at_100": 0.76446, - "map_at_1000": 0.76446, - "recall_at_1": 0.32095, - "recall_at_3": 0.59225, - "recall_at_5": 0.71535, - "recall_at_10": 0.85633, - "recall_at_50": 0.96047, - "recall_at_100": 0.96491, - "recall_at_1000": 0.96491, - "precision_at_1": 0.86957, - "precision_at_3": 0.65036, - "precision_at_5": 0.51793, - "precision_at_10": 0.3375, - "precision_at_50": 0.07755, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.86957, - "mrr_at_3": 0.91395, - "mrr_at_5": 0.91626, - "mrr_at_10": 0.91721, - "mrr_at_50": 0.91782, - "mrr_at_100": 0.91782, - "mrr_at_1000": 0.91782 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66667, - "ndcg_at_3": 0.62137, - "ndcg_at_5": 0.63282, - "ndcg_at_10": 0.67196, - "ndcg_at_50": 0.71099, - "ndcg_at_100": 0.71426, - "ndcg_at_1000": 0.71426, - "map_at_1": 0.29463, - "map_at_3": 0.46986, - "map_at_5": 0.53841, - "map_at_10": 0.58697, - "map_at_50": 0.60658, - "map_at_100": 0.60723, - "map_at_1000": 0.60723, - "recall_at_1": 0.29463, - "recall_at_3": 0.51833, - "recall_at_5": 0.62543, - "recall_at_10": 0.73118, - "recall_at_50": 0.84793, - "recall_at_100": 0.86295, - "recall_at_1000": 0.86295, - "precision_at_1": 0.66667, - "precision_at_3": 0.46726, - "precision_at_5": 0.36845, - "precision_at_10": 0.23185, - "precision_at_50": 0.05482, - "precision_at_100": 0.02783, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.66667, - "mrr_at_3": 0.73264, - "mrr_at_5": 0.73889, - "mrr_at_10": 0.74326, - "mrr_at_50": 0.74533, - "mrr_at_100": 0.74548, - "mrr_at_1000": 0.74548 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.73239, - "ndcg_at_3": 0.6804, - "ndcg_at_5": 0.69697, - "ndcg_at_10": 0.75036, - "ndcg_at_50": 0.77792, - "ndcg_at_100": 0.77903, - "ndcg_at_1000": 0.77903, - "map_at_1": 0.36152, - "map_at_3": 0.54828, - "map_at_5": 0.60346, - "map_at_10": 0.65351, - "map_at_50": 0.66926, - "map_at_100": 0.66945, - "map_at_1000": 0.66945, - "recall_at_1": 0.36152, - "recall_at_3": 0.61082, - "recall_at_5": 0.70919, - "recall_at_10": 0.83099, - "recall_at_50": 0.9099, - "recall_at_100": 0.91525, - "recall_at_1000": 0.91525, - "precision_at_1": 0.73239, - "precision_at_3": 0.48169, - "precision_at_5": 0.35775, - "precision_at_10": 0.22535, - "precision_at_50": 0.05031, - "precision_at_100": 0.0253, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.73239, - "mrr_at_3": 0.81455, - "mrr_at_5": 0.82103, - "mrr_at_10": 0.82351, - "mrr_at_50": 0.82477, - "mrr_at_100": 0.8248, - "mrr_at_1000": 0.8248 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.70868, - "ndcg_at_3": 0.65305, - "ndcg_at_5": 0.67392, - "ndcg_at_10": 0.7202, - "ndcg_at_50": 0.75778, - "ndcg_at_100": 0.75936, - "ndcg_at_1000": 0.75936, - "map_at_1": 0.34407, - "map_at_3": 0.52786, - "map_at_5": 0.58379, - "map_at_10": 0.62548, - "map_at_50": 0.64356, - "map_at_100": 0.64378, - "map_at_1000": 0.64378, - "recall_at_1": 0.34407, - "recall_at_3": 0.59064, - "recall_at_5": 0.69179, - "recall_at_10": 0.79983, - "recall_at_50": 0.91104, - "recall_at_100": 0.91945, - "recall_at_1000": 0.91945, - "precision_at_1": 0.70868, - "precision_at_3": 0.46312, - "precision_at_5": 0.34622, - "precision_at_10": 0.21345, - "precision_at_50": 0.04997, - "precision_at_100": 0.02513, - "precision_at_1000": 0.00251, - "mrr_at_1": 0.70868, - "mrr_at_3": 0.78665, - "mrr_at_5": 0.79197, - "mrr_at_10": 0.79579, - "mrr_at_50": 0.79769, - "mrr_at_100": 0.79778, - "mrr_at_1000": 0.79778 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.74194, - "ndcg_at_3": 0.68045, - "ndcg_at_5": 0.70051, - "ndcg_at_10": 0.73829, - "ndcg_at_50": 0.7673, - "ndcg_at_100": 0.76991, - "ndcg_at_1000": 0.76991, - "map_at_1": 0.38642, - "map_at_3": 0.55988, - "map_at_5": 0.61604, - "map_at_10": 0.6494, - "map_at_50": 0.66443, - "map_at_100": 0.6648, - "map_at_1000": 0.6648, - "recall_at_1": 0.38642, - "recall_at_3": 0.60637, - "recall_at_5": 0.71139, - "recall_at_10": 0.80073, - "recall_at_50": 0.88438, - "recall_at_100": 0.89724, - "recall_at_1000": 0.89724, - "precision_at_1": 0.74194, - "precision_at_3": 0.46416, - "precision_at_5": 0.35108, - "precision_at_10": 0.20833, - "precision_at_50": 0.04763, - "precision_at_100": 0.02411, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.74194, - "mrr_at_3": 0.8078, - "mrr_at_5": 0.81774, - "mrr_at_10": 0.8202, - "mrr_at_50": 0.82114, - "mrr_at_100": 0.82122, - "mrr_at_1000": 0.82122 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.60929, - "ndcg_at_3": 0.57793, - "ndcg_at_5": 0.5956, - "ndcg_at_10": 0.64347, - "ndcg_at_50": 0.69606, - "ndcg_at_100": 0.69857, - "ndcg_at_1000": 0.69857, - "map_at_1": 0.26095, - "map_at_3": 0.433, - "map_at_5": 0.4929, - "map_at_10": 0.54362, - "map_at_50": 0.56945, - "map_at_100": 0.56992, - "map_at_1000": 0.56992, - "recall_at_1": 0.26095, - "recall_at_3": 0.49056, - "recall_at_5": 0.59786, - "recall_at_10": 0.71817, - "recall_at_50": 0.87783, - "recall_at_100": 0.88922, - "recall_at_1000": 0.88922, - "precision_at_1": 0.60929, - "precision_at_3": 0.44353, - "precision_at_5": 0.35137, - "precision_at_10": 0.22623, - "precision_at_50": 0.05574, - "precision_at_100": 0.0282, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.60929, - "mrr_at_3": 0.70401, - "mrr_at_5": 0.71603, - "mrr_at_10": 0.71958, - "mrr_at_50": 0.72296, - "mrr_at_100": 0.72304, - "mrr_at_1000": 0.72304 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.62162, - "ndcg_at_3": 0.63245, - "ndcg_at_5": 0.67352, - "ndcg_at_10": 0.72633, - "ndcg_at_50": 0.75842, - "ndcg_at_100": 0.7613, - "ndcg_at_1000": 0.7613, - "map_at_1": 0.35348, - "map_at_3": 0.5311, - "map_at_5": 0.58864, - "map_at_10": 0.63435, - "map_at_50": 0.64892, - "map_at_100": 0.64939, - "map_at_1000": 0.64939, - "recall_at_1": 0.35348, - "recall_at_3": 0.60954, - "recall_at_5": 0.73667, - "recall_at_10": 0.85842, - "recall_at_50": 0.9627, - "recall_at_100": 0.97581, - "recall_at_1000": 0.97581, - "precision_at_1": 0.62162, - "precision_at_3": 0.41802, - "precision_at_5": 0.32, - "precision_at_10": 0.19973, - "precision_at_50": 0.04551, - "precision_at_100": 0.02311, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.62162, - "mrr_at_3": 0.72162, - "mrr_at_5": 0.73689, - "mrr_at_10": 0.74102, - "mrr_at_50": 0.74361, - "mrr_at_100": 0.74371, - "mrr_at_1000": 0.74371 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.53681, - "ndcg_at_3": 0.561, - "ndcg_at_5": 0.61365, - "ndcg_at_10": 0.66374, - "ndcg_at_50": 0.69788, - "ndcg_at_100": 0.69909, - "ndcg_at_1000": 0.69909, - "map_at_1": 0.35775, - "map_at_3": 0.48632, - "map_at_5": 0.53641, - "map_at_10": 0.57284, - "map_at_50": 0.58629, - "map_at_100": 0.58646, - "map_at_1000": 0.58646, - "recall_at_1": 0.35775, - "recall_at_3": 0.56834, - "recall_at_5": 0.69275, - "recall_at_10": 0.81239, - "recall_at_50": 0.93354, - "recall_at_100": 0.93967, - "recall_at_1000": 0.93967, - "precision_at_1": 0.53681, - "precision_at_3": 0.32413, - "precision_at_5": 0.25583, - "precision_at_10": 0.15951, - "precision_at_50": 0.03699, - "precision_at_100": 0.01862, - "precision_at_1000": 0.00186, - "mrr_at_1": 0.53681, - "mrr_at_3": 0.63957, - "mrr_at_5": 0.66196, - "mrr_at_10": 0.6683, - "mrr_at_50": 0.67104, - "mrr_at_100": 0.67104, - "mrr_at_1000": 0.67104 - }, - "gpt3": { - "ndcg_at_1": 0.4451, - "ndcg_at_3": 0.52738, - "ndcg_at_5": 0.57689, - "ndcg_at_10": 0.61939, - "ndcg_at_50": 0.65305, - "ndcg_at_100": 0.65654, - "ndcg_at_1000": 0.65654, - "map_at_1": 0.35336, - "map_at_3": 0.47535, - "map_at_5": 0.50973, - "map_at_10": 0.53275, - "map_at_50": 0.54356, - "map_at_100": 0.54398, - "map_at_1000": 0.54398, - "recall_at_1": 0.35336, - "recall_at_3": 0.59075, - "recall_at_5": 0.6998, - "recall_at_10": 0.81157, - "recall_at_50": 0.94139, - "recall_at_100": 0.96068, - "recall_at_1000": 0.96068, - "precision_at_1": 0.4451, - "precision_at_3": 0.26508, - "precision_at_5": 0.19644, - "precision_at_10": 0.1181, - "precision_at_50": 0.02783, - "precision_at_100": 0.01418, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.4451, - "mrr_at_3": 0.55638, - "mrr_at_5": 0.5776, - "mrr_at_10": 0.58915, - "mrr_at_50": 0.5928, - "mrr_at_100": 0.59304, - "mrr_at_1000": 0.59304 - }, - "llm-survey": { - "ndcg_at_1": 0.58824, - "ndcg_at_3": 0.58033, - "ndcg_at_5": 0.60048, - "ndcg_at_10": 0.64025, - "ndcg_at_50": 0.68185, - "ndcg_at_100": 0.68642, - "ndcg_at_1000": 0.68642, - "map_at_1": 0.28512, - "map_at_3": 0.46511, - "map_at_5": 0.51376, - "map_at_10": 0.55029, - "map_at_50": 0.56934, - "map_at_100": 0.5699, - "map_at_1000": 0.5699, - "recall_at_1": 0.28512, - "recall_at_3": 0.53592, - "recall_at_5": 0.62882, - "recall_at_10": 0.73116, - "recall_at_50": 0.8644, - "recall_at_100": 0.88877, - "recall_at_1000": 0.88877, - "precision_at_1": 0.58824, - "precision_at_3": 0.4183, - "precision_at_5": 0.31373, - "precision_at_10": 0.19188, - "precision_at_50": 0.04605, - "precision_at_100": 0.02345, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.58824, - "mrr_at_3": 0.67834, - "mrr_at_5": 0.68982, - "mrr_at_10": 0.69513, - "mrr_at_50": 0.6982, - "mrr_at_100": 0.69843, - "mrr_at_1000": 0.69843 - }, - "gemini": { - "ndcg_at_1": 0.49799, - "ndcg_at_3": 0.62387, - "ndcg_at_5": 0.65844, - "ndcg_at_10": 0.68264, - "ndcg_at_50": 0.7006, - "ndcg_at_100": 0.70262, - "ndcg_at_1000": 0.70262, - "map_at_1": 0.49799, - "map_at_3": 0.59371, - "map_at_5": 0.61278, - "map_at_10": 0.62249, - "map_at_50": 0.62685, - "map_at_100": 0.62705, - "map_at_1000": 0.62705, - "recall_at_1": 0.49799, - "recall_at_3": 0.71084, - "recall_at_5": 0.79518, - "recall_at_10": 0.87149, - "recall_at_50": 0.94779, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.49799, - "precision_at_3": 0.23695, - "precision_at_5": 0.15904, - "precision_at_10": 0.08715, - "precision_at_50": 0.01896, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.49799, - "mrr_at_3": 0.59371, - "mrr_at_5": 0.61278, - "mrr_at_10": 0.62249, - "mrr_at_50": 0.62685, - "mrr_at_100": 0.62705, - "mrr_at_1000": 0.62705 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.74339, - "ndcg_at_3": 0.67124, - "ndcg_at_5": 0.68238, - "ndcg_at_10": 0.73564, - "ndcg_at_50": 0.78017, - "ndcg_at_100": 0.78293, - "ndcg_at_1000": 0.78293, - "map_at_1": 0.30454, - "map_at_3": 0.4881, - "map_at_5": 0.56607, - "map_at_10": 0.63601, - "map_at_50": 0.66213, - "map_at_100": 0.66255, - "map_at_1000": 0.66255, - "recall_at_1": 0.30454, - "recall_at_3": 0.53467, - "recall_at_5": 0.66121, - "recall_at_10": 0.81225, - "recall_at_50": 0.93943, - "recall_at_100": 0.95363, - "recall_at_1000": 0.95363, - "precision_at_1": 0.74339, - "precision_at_3": 0.51891, - "precision_at_5": 0.41443, - "precision_at_10": 0.27175, - "precision_at_50": 0.06396, - "precision_at_100": 0.03226, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.74339, - "mrr_at_3": 0.80314, - "mrr_at_5": 0.81074, - "mrr_at_10": 0.81473, - "mrr_at_50": 0.81666, - "mrr_at_100": 0.81678, - "mrr_at_1000": 0.81678 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.35258, - "ndcg_at_3": 0.32179, - "ndcg_at_5": 0.32719, - "ndcg_at_10": 0.34532, - "ndcg_at_50": 0.37412, - "ndcg_at_100": 0.37705, - "ndcg_at_1000": 0.37705, - "map_at_1": 0.13644, - "map_at_3": 0.21505, - "map_at_5": 0.24996, - "map_at_10": 0.27956, - "map_at_50": 0.29415, - "map_at_100": 0.29459, - "map_at_1000": 0.29459, - "recall_at_1": 0.13644, - "recall_at_3": 0.24812, - "recall_at_5": 0.31211, - "recall_at_10": 0.38316, - "recall_at_50": 0.46514, - "recall_at_100": 0.47893, - "recall_at_1000": 0.47893, - "precision_at_1": 0.35258, - "precision_at_3": 0.25023, - "precision_at_5": 0.204, - "precision_at_10": 0.13487, - "precision_at_50": 0.03391, - "precision_at_100": 0.01735, - "precision_at_1000": 0.00173, - "mrr_at_1": 0.35258, - "mrr_at_3": 0.40394, - "mrr_at_5": 0.41424, - "mrr_at_10": 0.4196, - "mrr_at_50": 0.42216, - "mrr_at_100": 0.42231, - "mrr_at_1000": 0.42231 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.59811, - "ndcg_at_3": 0.53198, - "ndcg_at_5": 0.52611, - "ndcg_at_10": 0.55673, - "ndcg_at_50": 0.60458, - "ndcg_at_100": 0.60755, - "ndcg_at_1000": 0.60755, - "map_at_1": 0.18281, - "map_at_3": 0.3153, - "map_at_5": 0.38137, - "map_at_10": 0.44549, - "map_at_50": 0.47509, - "map_at_100": 0.47562, - "map_at_1000": 0.47562, - "recall_at_1": 0.18281, - "recall_at_3": 0.3536, - "recall_at_5": 0.4607, - "recall_at_10": 0.59065, - "recall_at_50": 0.70985, - "recall_at_100": 0.72257, - "recall_at_1000": 0.72257, - "precision_at_1": 0.59811, - "precision_at_3": 0.45708, - "precision_at_5": 0.38397, - "precision_at_10": 0.26282, - "precision_at_50": 0.06528, - "precision_at_100": 0.03307, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.59811, - "mrr_at_3": 0.67364, - "mrr_at_5": 0.68746, - "mrr_at_10": 0.69243, - "mrr_at_50": 0.69475, - "mrr_at_100": 0.69483, - "mrr_at_1000": 0.69483 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.55081, - "ndcg_at_3": 0.53833, - "ndcg_at_5": 0.54201, - "ndcg_at_10": 0.57129, - "ndcg_at_50": 0.60499, - "ndcg_at_100": 0.60736, - "ndcg_at_1000": 0.60736, - "map_at_1": 0.23852, - "map_at_3": 0.37557, - "map_at_5": 0.42915, - "map_at_10": 0.48331, - "map_at_50": 0.50551, - "map_at_100": 0.50594, - "map_at_1000": 0.50594, - "recall_at_1": 0.23852, - "recall_at_3": 0.42583, - "recall_at_5": 0.51462, - "recall_at_10": 0.62848, - "recall_at_50": 0.71244, - "recall_at_100": 0.72301, - "recall_at_1000": 0.72301, - "precision_at_1": 0.55081, - "precision_at_3": 0.40851, - "precision_at_5": 0.32912, - "precision_at_10": 0.22398, - "precision_at_50": 0.05436, - "precision_at_100": 0.02752, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.55204, - "mrr_at_3": 0.63321, - "mrr_at_5": 0.64353, - "mrr_at_10": 0.65004, - "mrr_at_50": 0.65132, - "mrr_at_100": 0.65145, - "mrr_at_1000": 0.65145 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.65074, - "ndcg_at_3": 0.61187, - "ndcg_at_5": 0.59918, - "ndcg_at_10": 0.62497, - "ndcg_at_50": 0.69332, - "ndcg_at_100": 0.69677, - "ndcg_at_1000": 0.69677, - "map_at_1": 0.17298, - "map_at_3": 0.33491, - "map_at_5": 0.41897, - "map_at_10": 0.50962, - "map_at_50": 0.5567, - "map_at_100": 0.55754, - "map_at_1000": 0.55754, - "recall_at_1": 0.17298, - "recall_at_3": 0.37614, - "recall_at_5": 0.49993, - "recall_at_10": 0.66327, - "recall_at_50": 0.82995, - "recall_at_100": 0.84362, - "recall_at_1000": 0.84362, - "precision_at_1": 0.65074, - "precision_at_3": 0.54439, - "precision_at_5": 0.46615, - "precision_at_10": 0.33464, - "precision_at_50": 0.08655, - "precision_at_100": 0.04386, - "precision_at_1000": 0.00439, - "mrr_at_1": 0.65089, - "mrr_at_3": 0.73047, - "mrr_at_5": 0.74093, - "mrr_at_10": 0.74584, - "mrr_at_50": 0.74747, - "mrr_at_100": 0.74752, - "mrr_at_1000": 0.74752 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.64888, - "ndcg_at_3": 0.57324, - "ndcg_at_5": 0.53244, - "ndcg_at_10": 0.5469, - "ndcg_at_50": 0.60347, - "ndcg_at_100": 0.60702, - "ndcg_at_1000": 0.60702, - "map_at_1": 0.13446, - "map_at_3": 0.27372, - "map_at_5": 0.34427, - "map_at_10": 0.41806, - "map_at_50": 0.45455, - "map_at_100": 0.45537, - "map_at_1000": 0.45537, - "recall_at_1": 0.13446, - "recall_at_3": 0.30367, - "recall_at_5": 0.4075, - "recall_at_10": 0.54903, - "recall_at_50": 0.68395, - "recall_at_100": 0.69692, - "recall_at_1000": 0.69692, - "precision_at_1": 0.64888, - "precision_at_3": 0.53255, - "precision_at_5": 0.44504, - "precision_at_10": 0.30993, - "precision_at_50": 0.07819, - "precision_at_100": 0.03974, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.64835, - "mrr_at_3": 0.72305, - "mrr_at_5": 0.73196, - "mrr_at_10": 0.73701, - "mrr_at_50": 0.73869, - "mrr_at_100": 0.73875, - "mrr_at_1000": 0.73875 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.57059, - "ndcg_at_3": 0.52369, - "ndcg_at_5": 0.53908, - "ndcg_at_10": 0.57655, - "ndcg_at_50": 0.61439, - "ndcg_at_100": 0.61823, - "ndcg_at_1000": 0.61823, - "map_at_1": 0.23878, - "map_at_3": 0.38361, - "map_at_5": 0.43549, - "map_at_10": 0.47485, - "map_at_50": 0.49269, - "map_at_100": 0.49333, - "map_at_1000": 0.49333, - "recall_at_1": 0.23878, - "recall_at_3": 0.44326, - "recall_at_5": 0.54468, - "recall_at_10": 0.6506, - "recall_at_50": 0.76576, - "recall_at_100": 0.78378, - "recall_at_1000": 0.78378, - "precision_at_1": 0.57059, - "precision_at_3": 0.4009, - "precision_at_5": 0.3099, - "precision_at_10": 0.19373, - "precision_at_50": 0.04614, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.57176, - "mrr_at_3": 0.65661, - "mrr_at_5": 0.6678, - "mrr_at_10": 0.6736, - "mrr_at_50": 0.67649, - "mrr_at_100": 0.67663, - "mrr_at_1000": 0.67663 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.45706, - "ndcg_at_3": 0.40619, - "ndcg_at_5": 0.39273, - "ndcg_at_10": 0.41603, - "ndcg_at_50": 0.4567, - "ndcg_at_100": 0.4591, - "ndcg_at_1000": 0.4591, - "map_at_1": 0.11854, - "map_at_3": 0.2134, - "map_at_5": 0.25974, - "map_at_10": 0.30499, - "map_at_50": 0.32762, - "map_at_100": 0.32813, - "map_at_1000": 0.32813, - "recall_at_1": 0.11854, - "recall_at_3": 0.25335, - "recall_at_5": 0.33469, - "recall_at_10": 0.43847, - "recall_at_50": 0.54173, - "recall_at_100": 0.55078, - "recall_at_1000": 0.55078, - "precision_at_1": 0.45706, - "precision_at_3": 0.36602, - "precision_at_5": 0.30515, - "precision_at_10": 0.2087, - "precision_at_50": 0.05261, - "precision_at_100": 0.02671, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.45873, - "mrr_at_3": 0.54875, - "mrr_at_5": 0.56222, - "mrr_at_10": 0.56949, - "mrr_at_50": 0.57148, - "mrr_at_100": 0.57154, - "mrr_at_1000": 0.57154 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.51546, - "ndcg_at_3": 0.53795, - "ndcg_at_5": 0.5534, - "ndcg_at_10": 0.57767, - "ndcg_at_50": 0.59906, - "ndcg_at_100": 0.60091, - "ndcg_at_1000": 0.60091, - "map_at_1": 0.32008, - "map_at_3": 0.45377, - "map_at_5": 0.49073, - "map_at_10": 0.51934, - "map_at_50": 0.52954, - "map_at_100": 0.52976, - "map_at_1000": 0.52976, - "recall_at_1": 0.32008, - "recall_at_3": 0.51381, - "recall_at_5": 0.58356, - "recall_at_10": 0.65566, - "recall_at_50": 0.72661, - "recall_at_100": 0.737, - "recall_at_1000": 0.737, - "precision_at_1": 0.51546, - "precision_at_3": 0.3346, - "precision_at_5": 0.2482, - "precision_at_10": 0.15123, - "precision_at_50": 0.03408, - "precision_at_100": 0.0172, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.51483, - "mrr_at_3": 0.58402, - "mrr_at_5": 0.59074, - "mrr_at_10": 0.59477, - "mrr_at_50": 0.5969, - "mrr_at_100": 0.59701, - "mrr_at_1000": 0.59701 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.7433, - "ndcg_at_3": 0.64612, - "ndcg_at_5": 0.6549, - "ndcg_at_10": 0.6909, - "ndcg_at_50": 0.72046, - "ndcg_at_100": 0.72138, - "ndcg_at_1000": 0.72138, - "map_at_1": 0.3869, - "map_at_3": 0.5176, - "map_at_5": 0.56107, - "map_at_10": 0.59793, - "map_at_50": 0.61332, - "map_at_100": 0.61349, - "map_at_1000": 0.61349, - "recall_at_1": 0.3869, - "recall_at_3": 0.56085, - "recall_at_5": 0.64161, - "recall_at_10": 0.73552, - "recall_at_50": 0.81963, - "recall_at_100": 0.82356, - "recall_at_1000": 0.82356, - "precision_at_1": 0.7433, - "precision_at_3": 0.42605, - "precision_at_5": 0.31495, - "precision_at_10": 0.19357, - "precision_at_50": 0.0448, - "precision_at_100": 0.02253, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.7427, - "mrr_at_3": 0.79988, - "mrr_at_5": 0.807, - "mrr_at_10": 0.81009, - "mrr_at_50": 0.81137, - "mrr_at_100": 0.8114, - "mrr_at_1000": 0.8114 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.66879, - "ndcg_at_3": 0.61996, - "ndcg_at_5": 0.63764, - "ndcg_at_10": 0.66541, - "ndcg_at_50": 0.68329, - "ndcg_at_100": 0.68425, - "ndcg_at_1000": 0.68425, - "map_at_1": 0.38165, - "map_at_3": 0.51352, - "map_at_5": 0.55507, - "map_at_10": 0.58292, - "map_at_50": 0.59182, - "map_at_100": 0.59198, - "map_at_1000": 0.59198, - "recall_at_1": 0.38165, - "recall_at_3": 0.57073, - "recall_at_5": 0.65273, - "recall_at_10": 0.72753, - "recall_at_50": 0.78132, - "recall_at_100": 0.78562, - "recall_at_1000": 0.78562, - "precision_at_1": 0.66879, - "precision_at_3": 0.39027, - "precision_at_5": 0.2872, - "precision_at_10": 0.17058, - "precision_at_50": 0.03751, - "precision_at_100": 0.01888, - "precision_at_1000": 0.00189, - "mrr_at_1": 0.66821, - "mrr_at_3": 0.73692, - "mrr_at_5": 0.74503, - "mrr_at_10": 0.74858, - "mrr_at_50": 0.7499, - "mrr_at_100": 0.74994, - "mrr_at_1000": 0.74994 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.54593, - "ndcg_at_3": 0.48424, - "ndcg_at_5": 0.48619, - "ndcg_at_10": 0.5154, - "ndcg_at_50": 0.54545, - "ndcg_at_100": 0.5479, - "ndcg_at_1000": 0.5479, - "map_at_1": 0.22626, - "map_at_3": 0.34229, - "map_at_5": 0.38294, - "map_at_10": 0.41776, - "map_at_50": 0.43211, - "map_at_100": 0.43244, - "map_at_1000": 0.43244, - "recall_at_1": 0.22626, - "recall_at_3": 0.39494, - "recall_at_5": 0.47257, - "recall_at_10": 0.56264, - "recall_at_50": 0.65122, - "recall_at_100": 0.66355, - "recall_at_1000": 0.66355, - "precision_at_1": 0.54593, - "precision_at_3": 0.36453, - "precision_at_5": 0.27972, - "precision_at_10": 0.17678, - "precision_at_50": 0.04162, - "precision_at_100": 0.02106, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.54593, - "mrr_at_3": 0.62132, - "mrr_at_5": 0.63151, - "mrr_at_10": 0.63637, - "mrr_at_50": 0.6383, - "mrr_at_100": 0.63843, - "mrr_at_1000": 0.63843 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.61319, - "ndcg_at_3": 0.55649, - "ndcg_at_5": 0.55952, - "ndcg_at_10": 0.59276, - "ndcg_at_50": 0.63277, - "ndcg_at_100": 0.63487, - "ndcg_at_1000": 0.63487, - "map_at_1": 0.24508, - "map_at_3": 0.37679, - "map_at_5": 0.43488, - "map_at_10": 0.49034, - "map_at_50": 0.5137, - "map_at_100": 0.51413, - "map_at_1000": 0.51413, - "recall_at_1": 0.24508, - "recall_at_3": 0.41912, - "recall_at_5": 0.5207, - "recall_at_10": 0.64109, - "recall_at_50": 0.74471, - "recall_at_100": 0.7533, - "recall_at_1000": 0.7533, - "precision_at_1": 0.61319, - "precision_at_3": 0.43335, - "precision_at_5": 0.35128, - "precision_at_10": 0.23559, - "precision_at_50": 0.05725, - "precision_at_100": 0.02895, - "precision_at_1000": 0.00289, - "mrr_at_1": 0.61378, - "mrr_at_3": 0.68875, - "mrr_at_5": 0.70129, - "mrr_at_10": 0.7066, - "mrr_at_50": 0.70875, - "mrr_at_100": 0.70878, - "mrr_at_1000": 0.70878 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.57059, - "ndcg_at_3": 0.52567, - "ndcg_at_5": 0.52567, - "ndcg_at_10": 0.54525, - "ndcg_at_50": 0.5678, - "ndcg_at_100": 0.56892, - "ndcg_at_1000": 0.56892, - "map_at_1": 0.27192, - "map_at_3": 0.38066, - "map_at_5": 0.42254, - "map_at_10": 0.45671, - "map_at_50": 0.46932, - "map_at_100": 0.46953, - "map_at_1000": 0.46953, - "recall_at_1": 0.27192, - "recall_at_3": 0.42978, - "recall_at_5": 0.50676, - "recall_at_10": 0.58614, - "recall_at_50": 0.64477, - "recall_at_100": 0.64963, - "recall_at_1000": 0.64963, - "precision_at_1": 0.57059, - "precision_at_3": 0.36712, - "precision_at_5": 0.28459, - "precision_at_10": 0.17961, - "precision_at_50": 0.04155, - "precision_at_100": 0.02093, - "precision_at_1000": 0.00209, - "mrr_at_1": 0.57001, - "mrr_at_3": 0.64138, - "mrr_at_5": 0.6526, - "mrr_at_10": 0.65596, - "mrr_at_50": 0.65714, - "mrr_at_100": 0.6572, - "mrr_at_1000": 0.6572 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65896, - "ndcg_at_3": 0.5984, - "ndcg_at_5": 0.61135, - "ndcg_at_10": 0.67344, - "ndcg_at_50": 0.72405, - "ndcg_at_100": 0.72577, - "ndcg_at_1000": 0.72577, - "map_at_1": 0.21214, - "map_at_3": 0.3887, - "map_at_5": 0.47004, - "map_at_10": 0.55101, - "map_at_50": 0.582, - "map_at_100": 0.58223, - "map_at_1000": 0.58223, - "recall_at_1": 0.21214, - "recall_at_3": 0.44808, - "recall_at_5": 0.59401, - "recall_at_10": 0.76956, - "recall_at_50": 0.90511, - "recall_at_100": 0.91397, - "recall_at_1000": 0.91397, - "precision_at_1": 0.65896, - "precision_at_3": 0.50867, - "precision_at_5": 0.42197, - "precision_at_10": 0.29133, - "precision_at_50": 0.07035, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.65896, - "mrr_at_3": 0.7447, - "mrr_at_5": 0.75973, - "mrr_at_10": 0.76491, - "mrr_at_50": 0.7664, - "mrr_at_100": 0.76649, - "mrr_at_1000": 0.76649 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.64565, - "ndcg_at_3": 0.601, - "ndcg_at_5": 0.61014, - "ndcg_at_10": 0.66309, - "ndcg_at_50": 0.7277, - "ndcg_at_100": 0.73083, - "ndcg_at_1000": 0.73083, - "map_at_1": 0.19041, - "map_at_3": 0.36097, - "map_at_5": 0.45489, - "map_at_10": 0.54746, - "map_at_50": 0.58597, - "map_at_100": 0.58646, - "map_at_1000": 0.58646, - "recall_at_1": 0.19041, - "recall_at_3": 0.40233, - "recall_at_5": 0.55971, - "recall_at_10": 0.73544, - "recall_at_50": 0.91577, - "recall_at_100": 0.93196, - "recall_at_1000": 0.93196, - "precision_at_1": 0.64565, - "precision_at_3": 0.53453, - "precision_at_5": 0.46126, - "precision_at_10": 0.32372, - "precision_at_50": 0.08024, - "precision_at_100": 0.04045, - "precision_at_1000": 0.00405, - "mrr_at_1": 0.64565, - "mrr_at_3": 0.72973, - "mrr_at_5": 0.74384, - "mrr_at_10": 0.74859, - "mrr_at_50": 0.75058, - "mrr_at_100": 0.75076, - "mrr_at_1000": 0.75076 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.7071, - "ndcg_at_3": 0.64781, - "ndcg_at_5": 0.63708, - "ndcg_at_10": 0.68864, - "ndcg_at_50": 0.74243, - "ndcg_at_100": 0.74603, - "ndcg_at_1000": 0.74603, - "map_at_1": 0.21582, - "map_at_3": 0.39955, - "map_at_5": 0.48267, - "map_at_10": 0.57943, - "map_at_50": 0.61403, - "map_at_100": 0.61469, - "map_at_1000": 0.61469, - "recall_at_1": 0.21582, - "recall_at_3": 0.43832, - "recall_at_5": 0.56187, - "recall_at_10": 0.75036, - "recall_at_50": 0.89541, - "recall_at_100": 0.91266, - "recall_at_1000": 0.91266, - "precision_at_1": 0.7071, - "precision_at_3": 0.55917, - "precision_at_5": 0.46391, - "precision_at_10": 0.32722, - "precision_at_50": 0.07828, - "precision_at_100": 0.03956, - "precision_at_1000": 0.00396, - "mrr_at_1": 0.7071, - "mrr_at_3": 0.77367, - "mrr_at_5": 0.77988, - "mrr_at_10": 0.78567, - "mrr_at_50": 0.78765, - "mrr_at_100": 0.78779, - "mrr_at_1000": 0.78779 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.74041, - "ndcg_at_3": 0.654, - "ndcg_at_5": 0.66029, - "ndcg_at_10": 0.72057, - "ndcg_at_50": 0.77881, - "ndcg_at_100": 0.78117, - "ndcg_at_1000": 0.78117, - "map_at_1": 0.24637, - "map_at_3": 0.44554, - "map_at_5": 0.52666, - "map_at_10": 0.60989, - "map_at_50": 0.64534, - "map_at_100": 0.64575, - "map_at_1000": 0.64575, - "recall_at_1": 0.24637, - "recall_at_3": 0.48856, - "recall_at_5": 0.6223, - "recall_at_10": 0.79302, - "recall_at_50": 0.95218, - "recall_at_100": 0.96241, - "recall_at_1000": 0.96241, - "precision_at_1": 0.74041, - "precision_at_3": 0.55457, - "precision_at_5": 0.44602, - "precision_at_10": 0.30442, - "precision_at_50": 0.0741, - "precision_at_100": 0.03737, - "precision_at_1000": 0.00374, - "mrr_at_1": 0.74041, - "mrr_at_3": 0.80383, - "mrr_at_5": 0.81298, - "mrr_at_10": 0.81659, - "mrr_at_50": 0.8188, - "mrr_at_100": 0.8188, - "mrr_at_1000": 0.8188 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.82065, - "ndcg_at_3": 0.7514, - "ndcg_at_5": 0.74318, - "ndcg_at_10": 0.79349, - "ndcg_at_50": 0.83772, - "ndcg_at_100": 0.84033, - "ndcg_at_1000": 0.84033, - "map_at_1": 0.29694, - "map_at_3": 0.5183, - "map_at_5": 0.60915, - "map_at_10": 0.69517, - "map_at_50": 0.72527, - "map_at_100": 0.72601, - "map_at_1000": 0.72601, - "recall_at_1": 0.29694, - "recall_at_3": 0.55661, - "recall_at_5": 0.68473, - "recall_at_10": 0.84255, - "recall_at_50": 0.9558, - "recall_at_100": 0.96491, - "recall_at_1000": 0.96491, - "precision_at_1": 0.82065, - "precision_at_3": 0.61866, - "precision_at_5": 0.49946, - "precision_at_10": 0.33207, - "precision_at_50": 0.07701, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.82065, - "mrr_at_3": 0.87726, - "mrr_at_5": 0.88148, - "mrr_at_10": 0.88382, - "mrr_at_50": 0.88468, - "mrr_at_100": 0.88468, - "mrr_at_1000": 0.88468 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66071, - "ndcg_at_3": 0.60503, - "ndcg_at_5": 0.62001, - "ndcg_at_10": 0.66236, - "ndcg_at_50": 0.70144, - "ndcg_at_100": 0.70566, - "ndcg_at_1000": 0.70566, - "map_at_1": 0.28311, - "map_at_3": 0.45816, - "map_at_5": 0.52328, - "map_at_10": 0.57466, - "map_at_50": 0.59482, - "map_at_100": 0.5955, - "map_at_1000": 0.5955, - "recall_at_1": 0.28311, - "recall_at_3": 0.4975, - "recall_at_5": 0.61146, - "recall_at_10": 0.72465, - "recall_at_50": 0.84146, - "recall_at_100": 0.86295, - "recall_at_1000": 0.86295, - "precision_at_1": 0.66071, - "precision_at_3": 0.46131, - "precision_at_5": 0.36488, - "precision_at_10": 0.23274, - "precision_at_50": 0.05476, - "precision_at_100": 0.02783, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.66071, - "mrr_at_3": 0.72173, - "mrr_at_5": 0.73348, - "mrr_at_10": 0.7367, - "mrr_at_50": 0.73917, - "mrr_at_100": 0.73938, - "mrr_at_1000": 0.73938 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.68169, - "ndcg_at_3": 0.62949, - "ndcg_at_5": 0.65354, - "ndcg_at_10": 0.70901, - "ndcg_at_50": 0.74385, - "ndcg_at_100": 0.74504, - "ndcg_at_1000": 0.74504, - "map_at_1": 0.32314, - "map_at_3": 0.49167, - "map_at_5": 0.55172, - "map_at_10": 0.60403, - "map_at_50": 0.62185, - "map_at_100": 0.62203, - "map_at_1000": 0.62203, - "recall_at_1": 0.32314, - "recall_at_3": 0.56222, - "recall_at_5": 0.67759, - "recall_at_10": 0.80388, - "recall_at_50": 0.9092, - "recall_at_100": 0.91525, - "recall_at_1000": 0.91525, - "precision_at_1": 0.68169, - "precision_at_3": 0.45258, - "precision_at_5": 0.34366, - "precision_at_10": 0.22028, - "precision_at_50": 0.05031, - "precision_at_100": 0.0253, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.68169, - "mrr_at_3": 0.77183, - "mrr_at_5": 0.78225, - "mrr_at_10": 0.78533, - "mrr_at_50": 0.78681, - "mrr_at_100": 0.78684, - "mrr_at_1000": 0.78684 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64986, - "ndcg_at_3": 0.63211, - "ndcg_at_5": 0.65415, - "ndcg_at_10": 0.70214, - "ndcg_at_50": 0.74011, - "ndcg_at_100": 0.74299, - "ndcg_at_1000": 0.74299, - "map_at_1": 0.31137, - "map_at_3": 0.50642, - "map_at_5": 0.55956, - "map_at_10": 0.60229, - "map_at_50": 0.62179, - "map_at_100": 0.62224, - "map_at_1000": 0.62224, - "recall_at_1": 0.31137, - "recall_at_3": 0.57784, - "recall_at_5": 0.68033, - "recall_at_10": 0.79484, - "recall_at_50": 0.90485, - "recall_at_100": 0.91945, - "recall_at_1000": 0.91945, - "precision_at_1": 0.64986, - "precision_at_3": 0.45752, - "precision_at_5": 0.34454, - "precision_at_10": 0.21176, - "precision_at_50": 0.04964, - "precision_at_100": 0.02513, - "precision_at_1000": 0.00251, - "mrr_at_1": 0.65266, - "mrr_at_3": 0.75397, - "mrr_at_5": 0.76489, - "mrr_at_10": 0.76718, - "mrr_at_50": 0.76932, - "mrr_at_100": 0.76946, - "mrr_at_1000": 0.76946 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.66398, - "ndcg_at_3": 0.63347, - "ndcg_at_5": 0.6441, - "ndcg_at_10": 0.68658, - "ndcg_at_50": 0.72792, - "ndcg_at_100": 0.73108, - "ndcg_at_1000": 0.73108, - "map_at_1": 0.34292, - "map_at_3": 0.51114, - "map_at_5": 0.55661, - "map_at_10": 0.59228, - "map_at_50": 0.6125, - "map_at_100": 0.61297, - "map_at_1000": 0.61297, - "recall_at_1": 0.34292, - "recall_at_3": 0.57068, - "recall_at_5": 0.65837, - "recall_at_10": 0.75707, - "recall_at_50": 0.88212, - "recall_at_100": 0.89724, - "recall_at_1000": 0.89724, - "precision_at_1": 0.66398, - "precision_at_3": 0.43996, - "precision_at_5": 0.32473, - "precision_at_10": 0.19785, - "precision_at_50": 0.04747, - "precision_at_100": 0.02411, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.66398, - "mrr_at_3": 0.75179, - "mrr_at_5": 0.76134, - "mrr_at_10": 0.76573, - "mrr_at_50": 0.7674, - "mrr_at_100": 0.76749, - "mrr_at_1000": 0.76749 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.62568, - "ndcg_at_3": 0.57066, - "ndcg_at_5": 0.58262, - "ndcg_at_10": 0.63444, - "ndcg_at_50": 0.68277, - "ndcg_at_100": 0.68956, - "ndcg_at_1000": 0.68956, - "map_at_1": 0.25743, - "map_at_3": 0.41998, - "map_at_5": 0.48053, - "map_at_10": 0.53571, - "map_at_50": 0.55834, - "map_at_100": 0.55934, - "map_at_1000": 0.55934, - "recall_at_1": 0.25743, - "recall_at_3": 0.46486, - "recall_at_5": 0.5738, - "recall_at_10": 0.70542, - "recall_at_50": 0.85577, - "recall_at_100": 0.88922, - "recall_at_1000": 0.88922, - "precision_at_1": 0.62568, - "precision_at_3": 0.44536, - "precision_at_5": 0.35082, - "precision_at_10": 0.22978, - "precision_at_50": 0.05492, - "precision_at_100": 0.0282, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.62568, - "mrr_at_3": 0.70036, - "mrr_at_5": 0.71266, - "mrr_at_10": 0.71614, - "mrr_at_50": 0.72116, - "mrr_at_100": 0.72142, - "mrr_at_1000": 0.72142 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.56757, - "ndcg_at_3": 0.56725, - "ndcg_at_5": 0.61087, - "ndcg_at_10": 0.67317, - "ndcg_at_50": 0.71769, - "ndcg_at_100": 0.7195, - "ndcg_at_1000": 0.7195, - "map_at_1": 0.31895, - "map_at_3": 0.4637, - "map_at_5": 0.52079, - "map_at_10": 0.5699, - "map_at_50": 0.58955, - "map_at_100": 0.58982, - "map_at_1000": 0.58982, - "recall_at_1": 0.31895, - "recall_at_3": 0.54947, - "recall_at_5": 0.67327, - "recall_at_10": 0.81888, - "recall_at_50": 0.96658, - "recall_at_100": 0.97581, - "recall_at_1000": 0.97581, - "precision_at_1": 0.56757, - "precision_at_3": 0.38198, - "precision_at_5": 0.30108, - "precision_at_10": 0.19378, - "precision_at_50": 0.04589, - "precision_at_100": 0.02311, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.56757, - "mrr_at_3": 0.67613, - "mrr_at_5": 0.68842, - "mrr_at_10": 0.69502, - "mrr_at_50": 0.69893, - "mrr_at_100": 0.69902, - "mrr_at_1000": 0.69902 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.44172, - "ndcg_at_3": 0.4744, - "ndcg_at_5": 0.52392, - "ndcg_at_10": 0.58147, - "ndcg_at_50": 0.62974, - "ndcg_at_100": 0.63306, - "ndcg_at_1000": 0.63306, - "map_at_1": 0.27902, - "map_at_3": 0.4015, - "map_at_5": 0.44772, - "map_at_10": 0.48566, - "map_at_50": 0.50416, - "map_at_100": 0.50455, - "map_at_1000": 0.50455, - "recall_at_1": 0.27902, - "recall_at_3": 0.4927, - "recall_at_5": 0.60909, - "recall_at_10": 0.75025, - "recall_at_50": 0.92229, - "recall_at_100": 0.93967, - "recall_at_1000": 0.93967, - "precision_at_1": 0.44172, - "precision_at_3": 0.29243, - "precision_at_5": 0.2319, - "precision_at_10": 0.14969, - "precision_at_50": 0.03663, - "precision_at_100": 0.01862, - "precision_at_1000": 0.00186, - "mrr_at_1": 0.44172, - "mrr_at_3": 0.54703, - "mrr_at_5": 0.56621, - "mrr_at_10": 0.57756, - "mrr_at_50": 0.58278, - "mrr_at_100": 0.58299, - "mrr_at_1000": 0.58299 - }, - "gpt3": { - "ndcg_at_1": 0.39763, - "ndcg_at_3": 0.46149, - "ndcg_at_5": 0.50388, - "ndcg_at_10": 0.55635, - "ndcg_at_50": 0.60404, - "ndcg_at_100": 0.6093, - "ndcg_at_1000": 0.6093, - "map_at_1": 0.31652, - "map_at_3": 0.41473, - "map_at_5": 0.44176, - "map_at_10": 0.46868, - "map_at_50": 0.48392, - "map_at_100": 0.48449, - "map_at_1000": 0.48449, - "recall_at_1": 0.31652, - "recall_at_3": 0.51212, - "recall_at_5": 0.6093, - "recall_at_10": 0.74777, - "recall_at_50": 0.93051, - "recall_at_100": 0.96068, - "recall_at_1000": 0.96068, - "precision_at_1": 0.39763, - "precision_at_3": 0.23343, - "precision_at_5": 0.16914, - "precision_at_10": 0.10831, - "precision_at_50": 0.0276, - "precision_at_100": 0.01418, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.39763, - "mrr_at_3": 0.49456, - "mrr_at_5": 0.51592, - "mrr_at_10": 0.53212, - "mrr_at_50": 0.53844, - "mrr_at_100": 0.5388, - "mrr_at_1000": 0.5388 - }, - "llm-survey": { - "ndcg_at_1": 0.44258, - "ndcg_at_3": 0.43084, - "ndcg_at_5": 0.46284, - "ndcg_at_10": 0.51764, - "ndcg_at_50": 0.58395, - "ndcg_at_100": 0.59101, - "ndcg_at_1000": 0.59101, - "map_at_1": 0.20412, - "map_at_3": 0.3329, - "map_at_5": 0.37825, - "map_at_10": 0.41784, - "map_at_50": 0.44648, - "map_at_100": 0.44731, - "map_at_1000": 0.44731, - "recall_at_1": 0.20412, - "recall_at_3": 0.39052, - "recall_at_5": 0.49544, - "recall_at_10": 0.63212, - "recall_at_50": 0.84934, - "recall_at_100": 0.88877, - "recall_at_1000": 0.88877, - "precision_at_1": 0.44258, - "precision_at_3": 0.32306, - "precision_at_5": 0.2549, - "precision_at_10": 0.17031, - "precision_at_50": 0.04566, - "precision_at_100": 0.02345, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.44258, - "mrr_at_3": 0.53128, - "mrr_at_5": 0.55131, - "mrr_at_10": 0.56277, - "mrr_at_50": 0.56881, - "mrr_at_100": 0.56917, - "mrr_at_1000": 0.56917 - }, - "gemini": { - "ndcg_at_1": 0.36546, - "ndcg_at_3": 0.47614, - "ndcg_at_5": 0.5178, - "ndcg_at_10": 0.55359, - "ndcg_at_50": 0.5937, - "ndcg_at_100": 0.59769, - "ndcg_at_1000": 0.59769, - "map_at_1": 0.36546, - "map_at_3": 0.44913, - "map_at_5": 0.47242, - "map_at_10": 0.48763, - "map_at_50": 0.49718, - "map_at_100": 0.49755, - "map_at_1000": 0.49755, - "recall_at_1": 0.36546, - "recall_at_3": 0.55422, - "recall_at_5": 0.65462, - "recall_at_10": 0.76305, - "recall_at_50": 0.93574, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.36546, - "precision_at_3": 0.18474, - "precision_at_5": 0.13092, - "precision_at_10": 0.07631, - "precision_at_50": 0.01871, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.36546, - "mrr_at_3": 0.44913, - "mrr_at_5": 0.47242, - "mrr_at_10": 0.48803, - "mrr_at_50": 0.49721, - "mrr_at_100": 0.49758, - "mrr_at_1000": 0.49758 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.72357, - "ndcg_at_3": 0.63096, - "ndcg_at_5": 0.62797, - "ndcg_at_10": 0.66848, - "ndcg_at_50": 0.73676, - "ndcg_at_100": 0.74589, - "ndcg_at_1000": 0.75274, - "map_at_1": 0.30562, - "map_at_3": 0.45963, - "map_at_5": 0.51465, - "map_at_10": 0.5628, - "map_at_50": 0.59734, - "map_at_100": 0.59919, - "map_at_1000": 0.59977, - "recall_at_1": 0.30562, - "recall_at_3": 0.50301, - "recall_at_5": 0.59871, - "recall_at_10": 0.71908, - "recall_at_50": 0.91486, - "recall_at_100": 0.95363, - "recall_at_1000": 0.9933, - "precision_at_1": 0.72357, - "precision_at_3": 0.47008, - "precision_at_5": 0.3576, - "precision_at_10": 0.22896, - "precision_at_50": 0.0618, - "precision_at_100": 0.03226, - "precision_at_1000": 0.00334, - "mrr_at_1": 0.72357, - "mrr_at_3": 0.78313, - "mrr_at_5": 0.79021, - "mrr_at_10": 0.79527, - "mrr_at_50": 0.79778, - "mrr_at_100": 0.79794, - "mrr_at_1000": 0.79801 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.16102, - "ndcg_at_3": 0.1604, - "ndcg_at_5": 0.1729, - "ndcg_at_10": 0.19664, - "ndcg_at_50": 0.25132, - "ndcg_at_100": 0.26658, - "ndcg_at_1000": 0.30459, - "map_at_1": 0.06269, - "map_at_3": 0.10307, - "map_at_5": 0.12388, - "map_at_10": 0.14459, - "map_at_50": 0.16445, - "map_at_100": 0.16679, - "map_at_1000": 0.16878, - "recall_at_1": 0.06269, - "recall_at_3": 0.12865, - "recall_at_5": 0.17797, - "recall_at_10": 0.2488, - "recall_at_50": 0.414, - "recall_at_100": 0.47893, - "recall_at_1000": 0.7131, - "precision_at_1": 0.16102, - "precision_at_3": 0.129, - "precision_at_5": 0.11294, - "precision_at_10": 0.08429, - "precision_at_50": 0.02987, - "precision_at_100": 0.01735, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.16102, - "mrr_at_3": 0.20572, - "mrr_at_5": 0.21949, - "mrr_at_10": 0.22949, - "mrr_at_50": 0.23732, - "mrr_at_100": 0.23807, - "mrr_at_1000": 0.23876 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.41544, - "ndcg_at_3": 0.37765, - "ndcg_at_5": 0.37264, - "ndcg_at_10": 0.39715, - "ndcg_at_50": 0.47616, - "ndcg_at_100": 0.49588, - "ndcg_at_1000": 0.52735, - "map_at_1": 0.12486, - "map_at_3": 0.21437, - "map_at_5": 0.25485, - "map_at_10": 0.29487, - "map_at_50": 0.33039, - "map_at_100": 0.33411, - "map_at_1000": 0.3365, - "recall_at_1": 0.12486, - "recall_at_3": 0.25166, - "recall_at_5": 0.3314, - "recall_at_10": 0.43403, - "recall_at_50": 0.64651, - "recall_at_100": 0.72257, - "recall_at_1000": 0.88809, - "precision_at_1": 0.41544, - "precision_at_3": 0.32469, - "precision_at_5": 0.26906, - "precision_at_10": 0.18874, - "precision_at_50": 0.05922, - "precision_at_100": 0.03307, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.41544, - "mrr_at_3": 0.49813, - "mrr_at_5": 0.51676, - "mrr_at_10": 0.52563, - "mrr_at_50": 0.53142, - "mrr_at_100": 0.53197, - "mrr_at_1000": 0.53223 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.40644, - "ndcg_at_3": 0.4028, - "ndcg_at_5": 0.41122, - "ndcg_at_10": 0.43499, - "ndcg_at_50": 0.49708, - "ndcg_at_100": 0.51194, - "ndcg_at_1000": 0.53923, - "map_at_1": 0.18453, - "map_at_3": 0.28072, - "map_at_5": 0.31948, - "map_at_10": 0.35531, - "map_at_50": 0.38445, - "map_at_100": 0.38701, - "map_at_1000": 0.38877, - "recall_at_1": 0.18453, - "recall_at_3": 0.32605, - "recall_at_5": 0.40138, - "recall_at_10": 0.49163, - "recall_at_50": 0.66273, - "recall_at_100": 0.72301, - "recall_at_1000": 0.87908, - "precision_at_1": 0.40644, - "precision_at_3": 0.29843, - "precision_at_5": 0.243, - "precision_at_10": 0.1676, - "precision_at_50": 0.05015, - "precision_at_100": 0.02752, - "precision_at_1000": 0.00326, - "mrr_at_1": 0.40644, - "mrr_at_3": 0.48276, - "mrr_at_5": 0.4967, - "mrr_at_10": 0.50584, - "mrr_at_50": 0.51177, - "mrr_at_100": 0.51221, - "mrr_at_1000": 0.51257 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.5819, - "ndcg_at_3": 0.53789, - "ndcg_at_5": 0.52611, - "ndcg_at_10": 0.54435, - "ndcg_at_50": 0.63, - "ndcg_at_100": 0.64432, - "ndcg_at_1000": 0.66183, - "map_at_1": 0.15815, - "map_at_3": 0.29429, - "map_at_5": 0.36315, - "map_at_10": 0.43444, - "map_at_50": 0.48378, - "map_at_100": 0.487, - "map_at_1000": 0.48852, - "recall_at_1": 0.15815, - "recall_at_3": 0.33025, - "recall_at_5": 0.43614, - "recall_at_10": 0.57508, - "recall_at_50": 0.79095, - "recall_at_100": 0.84362, - "recall_at_1000": 0.93407, - "precision_at_1": 0.5819, - "precision_at_3": 0.47207, - "precision_at_5": 0.40307, - "precision_at_10": 0.28637, - "precision_at_50": 0.08232, - "precision_at_100": 0.04386, - "precision_at_1000": 0.00476, - "mrr_at_1": 0.5819, - "mrr_at_3": 0.65625, - "mrr_at_5": 0.66945, - "mrr_at_10": 0.67672, - "mrr_at_50": 0.68028, - "mrr_at_100": 0.68048, - "mrr_at_1000": 0.68062 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.41836, - "ndcg_at_3": 0.34434, - "ndcg_at_5": 0.32284, - "ndcg_at_10": 0.33741, - "ndcg_at_50": 0.43817, - "ndcg_at_100": 0.46507, - "ndcg_at_1000": 0.50786, - "map_at_1": 0.08688, - "map_at_3": 0.1533, - "map_at_5": 0.18717, - "map_at_10": 0.22579, - "map_at_50": 0.26988, - "map_at_100": 0.27538, - "map_at_1000": 0.2791, - "recall_at_1": 0.08688, - "recall_at_3": 0.17772, - "recall_at_5": 0.24411, - "recall_at_10": 0.34466, - "recall_at_50": 0.60037, - "recall_at_100": 0.69692, - "recall_at_1000": 0.90544, - "precision_at_1": 0.41836, - "precision_at_3": 0.31092, - "precision_at_5": 0.26318, - "precision_at_10": 0.19333, - "precision_at_50": 0.06902, - "precision_at_100": 0.03974, - "precision_at_1000": 0.00498, - "mrr_at_1": 0.41836, - "mrr_at_3": 0.49244, - "mrr_at_5": 0.51173, - "mrr_at_10": 0.52313, - "mrr_at_50": 0.53008, - "mrr_at_100": 0.53058, - "mrr_at_1000": 0.53084 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.52724, - "ndcg_at_3": 0.46797, - "ndcg_at_5": 0.47531, - "ndcg_at_10": 0.50634, - "ndcg_at_50": 0.56115, - "ndcg_at_100": 0.57327, - "ndcg_at_1000": 0.59434, - "map_at_1": 0.23447, - "map_at_3": 0.35354, - "map_at_5": 0.38844, - "map_at_10": 0.41647, - "map_at_50": 0.43772, - "map_at_100": 0.4397, - "map_at_1000": 0.44109, - "recall_at_1": 0.23447, - "recall_at_3": 0.39807, - "recall_at_5": 0.47144, - "recall_at_10": 0.56062, - "recall_at_50": 0.73099, - "recall_at_100": 0.78378, - "recall_at_1000": 0.90777, - "precision_at_1": 0.52724, - "precision_at_3": 0.34134, - "precision_at_5": 0.25565, - "precision_at_10": 0.15929, - "precision_at_50": 0.04362, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00272, - "mrr_at_1": 0.52724, - "mrr_at_3": 0.59217, - "mrr_at_5": 0.60456, - "mrr_at_10": 0.6128, - "mrr_at_50": 0.6172, - "mrr_at_100": 0.61763, - "mrr_at_1000": 0.61785 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.30139, - "ndcg_at_3": 0.26064, - "ndcg_at_5": 0.24775, - "ndcg_at_10": 0.26981, - "ndcg_at_50": 0.3396, - "ndcg_at_100": 0.35879, - "ndcg_at_1000": 0.39653, - "map_at_1": 0.07635, - "map_at_3": 0.13133, - "map_at_5": 0.15429, - "map_at_10": 0.18275, - "map_at_50": 0.21009, - "map_at_100": 0.21339, - "map_at_1000": 0.21595, - "recall_at_1": 0.07635, - "recall_at_3": 0.16014, - "recall_at_5": 0.20711, - "recall_at_10": 0.28924, - "recall_at_50": 0.47805, - "recall_at_100": 0.55078, - "recall_at_1000": 0.74644, - "precision_at_1": 0.30139, - "precision_at_3": 0.22973, - "precision_at_5": 0.1877, - "precision_at_10": 0.13789, - "precision_at_50": 0.04657, - "precision_at_100": 0.02671, - "precision_at_1000": 0.00349, - "mrr_at_1": 0.30139, - "mrr_at_3": 0.37433, - "mrr_at_5": 0.38943, - "mrr_at_10": 0.40083, - "mrr_at_50": 0.40863, - "mrr_at_100": 0.40925, - "mrr_at_1000": 0.4097 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.41136, - "ndcg_at_3": 0.43685, - "ndcg_at_5": 0.44891, - "ndcg_at_10": 0.47766, - "ndcg_at_50": 0.51744, - "ndcg_at_100": 0.52621, - "ndcg_at_1000": 0.54449, - "map_at_1": 0.26173, - "map_at_3": 0.36874, - "map_at_5": 0.39351, - "map_at_10": 0.41828, - "map_at_50": 0.43403, - "map_at_100": 0.43527, - "map_at_1000": 0.43611, - "recall_at_1": 0.26173, - "recall_at_3": 0.428, - "recall_at_5": 0.4814, - "recall_at_10": 0.5619, - "recall_at_50": 0.69329, - "recall_at_100": 0.737, - "recall_at_1000": 0.87025, - "precision_at_1": 0.41136, - "precision_at_3": 0.26393, - "precision_at_5": 0.19356, - "precision_at_10": 0.12265, - "precision_at_50": 0.03238, - "precision_at_100": 0.0172, - "precision_at_1000": 0.00194, - "mrr_at_1": 0.41136, - "mrr_at_3": 0.47897, - "mrr_at_5": 0.4873, - "mrr_at_10": 0.49484, - "mrr_at_50": 0.49924, - "mrr_at_100": 0.49964, - "mrr_at_1000": 0.50003 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.67362, - "ndcg_at_3": 0.57414, - "ndcg_at_5": 0.57678, - "ndcg_at_10": 0.60567, - "ndcg_at_50": 0.64972, - "ndcg_at_100": 0.66069, - "ndcg_at_1000": 0.67802, - "map_at_1": 0.34662, - "map_at_3": 0.45301, - "map_at_5": 0.48418, - "map_at_10": 0.5098, - "map_at_50": 0.52866, - "map_at_100": 0.53051, - "map_at_1000": 0.53169, - "recall_at_1": 0.34662, - "recall_at_3": 0.50096, - "recall_at_5": 0.56526, - "recall_at_10": 0.64432, - "recall_at_50": 0.77598, - "recall_at_100": 0.82356, - "recall_at_1000": 0.9221, - "precision_at_1": 0.67362, - "precision_at_3": 0.37006, - "precision_at_5": 0.2654, - "precision_at_10": 0.16087, - "precision_at_50": 0.04189, - "precision_at_100": 0.02253, - "precision_at_1000": 0.00257, - "mrr_at_1": 0.67362, - "mrr_at_3": 0.73705, - "mrr_at_5": 0.74497, - "mrr_at_10": 0.74971, - "mrr_at_50": 0.75212, - "mrr_at_100": 0.75232, - "mrr_at_1000": 0.75244 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.53619, - "ndcg_at_3": 0.49184, - "ndcg_at_5": 0.50752, - "ndcg_at_10": 0.53759, - "ndcg_at_50": 0.5821, - "ndcg_at_100": 0.59208, - "ndcg_at_1000": 0.60978, - "map_at_1": 0.32724, - "map_at_3": 0.41033, - "map_at_5": 0.43526, - "map_at_10": 0.45657, - "map_at_50": 0.47297, - "map_at_100": 0.47452, - "map_at_1000": 0.47564, - "recall_at_1": 0.32724, - "recall_at_3": 0.45931, - "recall_at_5": 0.5228, - "recall_at_10": 0.6004, - "recall_at_50": 0.7412, - "recall_at_100": 0.78562, - "recall_at_1000": 0.89077, - "precision_at_1": 0.53619, - "precision_at_3": 0.29126, - "precision_at_5": 0.21042, - "precision_at_10": 0.12924, - "precision_at_50": 0.03502, - "precision_at_100": 0.01888, - "precision_at_1000": 0.00219, - "mrr_at_1": 0.53619, - "mrr_at_3": 0.60326, - "mrr_at_5": 0.61612, - "mrr_at_10": 0.62443, - "mrr_at_50": 0.62854, - "mrr_at_100": 0.62886, - "mrr_at_1000": 0.62904 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.40208, - "ndcg_at_3": 0.34051, - "ndcg_at_5": 0.34384, - "ndcg_at_10": 0.36926, - "ndcg_at_50": 0.42698, - "ndcg_at_100": 0.44376, - "ndcg_at_1000": 0.47623, - "map_at_1": 0.17209, - "map_at_3": 0.23693, - "map_at_5": 0.26096, - "map_at_10": 0.28216, - "map_at_50": 0.30204, - "map_at_100": 0.30475, - "map_at_1000": 0.30686, - "recall_at_1": 0.17209, - "recall_at_3": 0.27672, - "recall_at_5": 0.33598, - "recall_at_10": 0.4141, - "recall_at_50": 0.59231, - "recall_at_100": 0.66355, - "recall_at_1000": 0.85148, - "precision_at_1": 0.40208, - "precision_at_3": 0.24398, - "precision_at_5": 0.1866, - "precision_at_10": 0.12074, - "precision_at_50": 0.03715, - "precision_at_100": 0.02106, - "precision_at_1000": 0.0027, - "mrr_at_1": 0.40208, - "mrr_at_3": 0.46803, - "mrr_at_5": 0.48256, - "mrr_at_10": 0.49141, - "mrr_at_50": 0.4976, - "mrr_at_100": 0.49815, - "mrr_at_1000": 0.4985 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.52704, - "ndcg_at_3": 0.46448, - "ndcg_at_5": 0.45695, - "ndcg_at_10": 0.48267, - "ndcg_at_50": 0.54674, - "ndcg_at_100": 0.56171, - "ndcg_at_1000": 0.58474, - "map_at_1": 0.21357, - "map_at_3": 0.31256, - "map_at_5": 0.34665, - "map_at_10": 0.38352, - "map_at_50": 0.41317, - "map_at_100": 0.41581, - "map_at_1000": 0.41754, - "recall_at_1": 0.21357, - "recall_at_3": 0.3525, - "recall_at_5": 0.41789, - "recall_at_10": 0.51525, - "recall_at_50": 0.69183, - "recall_at_100": 0.7533, - "recall_at_1000": 0.87761, - "precision_at_1": 0.52704, - "precision_at_3": 0.35056, - "precision_at_5": 0.27106, - "precision_at_10": 0.18265, - "precision_at_50": 0.05311, - "precision_at_100": 0.02895, - "precision_at_1000": 0.00336, - "mrr_at_1": 0.52704, - "mrr_at_3": 0.60061, - "mrr_at_5": 0.61253, - "mrr_at_10": 0.6203, - "mrr_at_50": 0.62468, - "mrr_at_100": 0.62511, - "mrr_at_1000": 0.62529 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.35149, - "ndcg_at_3": 0.34189, - "ndcg_at_5": 0.35083, - "ndcg_at_10": 0.37547, - "ndcg_at_50": 0.42722, - "ndcg_at_100": 0.44139, - "ndcg_at_1000": 0.47211, - "map_at_1": 0.17314, - "map_at_3": 0.24268, - "map_at_5": 0.26866, - "map_at_10": 0.29226, - "map_at_50": 0.31253, - "map_at_100": 0.3148, - "map_at_1000": 0.3166, - "recall_at_1": 0.17314, - "recall_at_3": 0.29478, - "recall_at_5": 0.36122, - "recall_at_10": 0.44034, - "recall_at_50": 0.59009, - "recall_at_100": 0.64963, - "recall_at_1000": 0.82383, - "precision_at_1": 0.35149, - "precision_at_3": 0.23452, - "precision_at_5": 0.18489, - "precision_at_10": 0.12455, - "precision_at_50": 0.03749, - "precision_at_100": 0.02093, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.35149, - "mrr_at_3": 0.43146, - "mrr_at_5": 0.44859, - "mrr_at_10": 0.4592, - "mrr_at_50": 0.46463, - "mrr_at_100": 0.4651, - "mrr_at_1000": 0.46551 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.61561, - "ndcg_at_3": 0.55213, - "ndcg_at_5": 0.55584, - "ndcg_at_10": 0.60329, - "ndcg_at_50": 0.67621, - "ndcg_at_100": 0.68637, - "ndcg_at_1000": 0.70069, - "map_at_1": 0.20746, - "map_at_3": 0.36077, - "map_at_5": 0.42555, - "map_at_10": 0.48252, - "map_at_50": 0.52184, - "map_at_100": 0.52391, - "map_at_1000": 0.52516, - "recall_at_1": 0.20746, - "recall_at_3": 0.40908, - "recall_at_5": 0.52851, - "recall_at_10": 0.67715, - "recall_at_50": 0.87312, - "recall_at_100": 0.91397, - "recall_at_1000": 0.9925, - "precision_at_1": 0.61561, - "precision_at_3": 0.45472, - "precision_at_5": 0.3711, - "precision_at_10": 0.24711, - "precision_at_50": 0.0674, - "precision_at_100": 0.03535, - "precision_at_1000": 0.0038, - "mrr_at_1": 0.61561, - "mrr_at_3": 0.70039, - "mrr_at_5": 0.71643, - "mrr_at_10": 0.72402, - "mrr_at_50": 0.7264, - "mrr_at_100": 0.72652, - "mrr_at_1000": 0.72658 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.60661, - "ndcg_at_3": 0.543, - "ndcg_at_5": 0.5405, - "ndcg_at_10": 0.58407, - "ndcg_at_50": 0.66952, - "ndcg_at_100": 0.68216, - "ndcg_at_1000": 0.69407, - "map_at_1": 0.18048, - "map_at_3": 0.32455, - "map_at_5": 0.39563, - "map_at_10": 0.46264, - "map_at_50": 0.50754, - "map_at_100": 0.51009, - "map_at_1000": 0.51106, - "recall_at_1": 0.18048, - "recall_at_3": 0.36224, - "recall_at_5": 0.48605, - "recall_at_10": 0.64406, - "recall_at_50": 0.87782, - "recall_at_100": 0.93196, - "recall_at_1000": 0.99852, - "precision_at_1": 0.60661, - "precision_at_3": 0.46847, - "precision_at_5": 0.3952, - "precision_at_10": 0.27387, - "precision_at_50": 0.07712, - "precision_at_100": 0.04045, - "precision_at_1000": 0.00427, - "mrr_at_1": 0.60661, - "mrr_at_3": 0.67968, - "mrr_at_5": 0.698, - "mrr_at_10": 0.70521, - "mrr_at_50": 0.70792, - "mrr_at_100": 0.70826, - "mrr_at_1000": 0.70837 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.64497, - "ndcg_at_3": 0.56328, - "ndcg_at_5": 0.54998, - "ndcg_at_10": 0.58439, - "ndcg_at_50": 0.66874, - "ndcg_at_100": 0.68183, - "ndcg_at_1000": 0.69723, - "map_at_1": 0.19397, - "map_at_3": 0.34089, - "map_at_5": 0.40246, - "map_at_10": 0.46587, - "map_at_50": 0.51025, - "map_at_100": 0.51316, - "map_at_1000": 0.51468, - "recall_at_1": 0.19397, - "recall_at_3": 0.38126, - "recall_at_5": 0.4838, - "recall_at_10": 0.62598, - "recall_at_50": 0.86095, - "recall_at_100": 0.91266, - "recall_at_1000": 0.99359, - "precision_at_1": 0.64497, - "precision_at_3": 0.47732, - "precision_at_5": 0.3858, - "precision_at_10": 0.26568, - "precision_at_50": 0.07467, - "precision_at_100": 0.03956, - "precision_at_1000": 0.00425, - "mrr_at_1": 0.64497, - "mrr_at_3": 0.70907, - "mrr_at_5": 0.71898, - "mrr_at_10": 0.72795, - "mrr_at_50": 0.73106, - "mrr_at_100": 0.73124, - "mrr_at_1000": 0.73139 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.66962, - "ndcg_at_3": 0.59951, - "ndcg_at_5": 0.6049, - "ndcg_at_10": 0.64715, - "ndcg_at_50": 0.7241, - "ndcg_at_100": 0.73446, - "ndcg_at_1000": 0.7409, - "map_at_1": 0.22352, - "map_at_3": 0.40031, - "map_at_5": 0.47131, - "map_at_10": 0.53215, - "map_at_50": 0.57395, - "map_at_100": 0.57602, - "map_at_1000": 0.57655, - "recall_at_1": 0.22352, - "recall_at_3": 0.45, - "recall_at_5": 0.5698, - "recall_at_10": 0.70475, - "recall_at_50": 0.91925, - "recall_at_100": 0.96241, - "recall_at_1000": 0.99828, - "precision_at_1": 0.66962, - "precision_at_3": 0.50147, - "precision_at_5": 0.40767, - "precision_at_10": 0.26785, - "precision_at_50": 0.0718, - "precision_at_100": 0.03737, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.66962, - "mrr_at_3": 0.74238, - "mrr_at_5": 0.75565, - "mrr_at_10": 0.7624, - "mrr_at_50": 0.7651, - "mrr_at_100": 0.76523, - "mrr_at_1000": 0.76529 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.72011, - "ndcg_at_3": 0.63237, - "ndcg_at_5": 0.61199, - "ndcg_at_10": 0.66086, - "ndcg_at_50": 0.74259, - "ndcg_at_100": 0.75272, - "ndcg_at_1000": 0.75962, - "map_at_1": 0.25615, - "map_at_3": 0.42041, - "map_at_5": 0.47871, - "map_at_10": 0.54373, - "map_at_50": 0.58815, - "map_at_100": 0.59049, - "map_at_1000": 0.59119, - "recall_at_1": 0.25615, - "recall_at_3": 0.45929, - "recall_at_5": 0.5532, - "recall_at_10": 0.70358, - "recall_at_50": 0.92487, - "recall_at_100": 0.96491, - "recall_at_1000": 1.0, - "precision_at_1": 0.72011, - "precision_at_3": 0.51178, - "precision_at_5": 0.39402, - "precision_at_10": 0.26929, - "precision_at_50": 0.07462, - "precision_at_100": 0.03899, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.72011, - "mrr_at_3": 0.7885, - "mrr_at_5": 0.79774, - "mrr_at_10": 0.80292, - "mrr_at_50": 0.80494, - "mrr_at_100": 0.80508, - "mrr_at_1000": 0.80509 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.54464, - "ndcg_at_3": 0.48391, - "ndcg_at_5": 0.48898, - "ndcg_at_10": 0.5335, - "ndcg_at_50": 0.6007, - "ndcg_at_100": 0.61519, - "ndcg_at_1000": 0.63399, - "map_at_1": 0.2337, - "map_at_3": 0.3559, - "map_at_5": 0.39741, - "map_at_10": 0.43552, - "map_at_50": 0.46573, - "map_at_100": 0.46833, - "map_at_1000": 0.46967, - "recall_at_1": 0.2337, - "recall_at_3": 0.39781, - "recall_at_5": 0.47966, - "recall_at_10": 0.60134, - "recall_at_50": 0.79772, - "recall_at_100": 0.86295, - "recall_at_1000": 0.97649, - "precision_at_1": 0.54464, - "precision_at_3": 0.3631, - "precision_at_5": 0.27917, - "precision_at_10": 0.18244, - "precision_at_50": 0.05173, - "precision_at_100": 0.02783, - "precision_at_1000": 0.00307, - "mrr_at_1": 0.54464, - "mrr_at_3": 0.61111, - "mrr_at_5": 0.6245, - "mrr_at_10": 0.63431, - "mrr_at_50": 0.63849, - "mrr_at_100": 0.63887, - "mrr_at_1000": 0.63918 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.52958, - "ndcg_at_3": 0.48826, - "ndcg_at_5": 0.49959, - "ndcg_at_10": 0.54873, - "ndcg_at_50": 0.61466, - "ndcg_at_100": 0.63142, - "ndcg_at_1000": 0.64638, - "map_at_1": 0.25938, - "map_at_3": 0.37804, - "map_at_5": 0.41175, - "map_at_10": 0.44448, - "map_at_50": 0.4712, - "map_at_100": 0.47404, - "map_at_1000": 0.47528, - "recall_at_1": 0.25938, - "recall_at_3": 0.43495, - "recall_at_5": 0.51118, - "recall_at_10": 0.63529, - "recall_at_50": 0.84075, - "recall_at_100": 0.91525, - "recall_at_1000": 1.0, - "precision_at_1": 0.52958, - "precision_at_3": 0.34272, - "precision_at_5": 0.25239, - "precision_at_10": 0.16366, - "precision_at_50": 0.04592, - "precision_at_100": 0.0253, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.52958, - "mrr_at_3": 0.6216, - "mrr_at_5": 0.63399, - "mrr_at_10": 0.6466, - "mrr_at_50": 0.65118, - "mrr_at_100": 0.65143, - "mrr_at_1000": 0.65156 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.57423, - "ndcg_at_3": 0.50535, - "ndcg_at_5": 0.51728, - "ndcg_at_10": 0.56541, - "ndcg_at_50": 0.63115, - "ndcg_at_100": 0.64677, - "ndcg_at_1000": 0.66095, - "map_at_1": 0.27315, - "map_at_3": 0.3953, - "map_at_5": 0.43004, - "map_at_10": 0.46342, - "map_at_50": 0.48917, - "map_at_100": 0.49181, - "map_at_1000": 0.49294, - "recall_at_1": 0.27315, - "recall_at_3": 0.451, - "recall_at_5": 0.52427, - "recall_at_10": 0.64116, - "recall_at_50": 0.84954, - "recall_at_100": 0.91945, - "recall_at_1000": 1.0, - "precision_at_1": 0.57423, - "precision_at_3": 0.35294, - "precision_at_5": 0.25994, - "precision_at_10": 0.16527, - "precision_at_50": 0.04611, - "precision_at_100": 0.02513, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.57423, - "mrr_at_3": 0.65033, - "mrr_at_5": 0.65999, - "mrr_at_10": 0.67069, - "mrr_at_50": 0.67571, - "mrr_at_100": 0.67596, - "mrr_at_1000": 0.6761 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.60484, - "ndcg_at_3": 0.52946, - "ndcg_at_5": 0.53319, - "ndcg_at_10": 0.57759, - "ndcg_at_50": 0.64035, - "ndcg_at_100": 0.65663, - "ndcg_at_1000": 0.67473, - "map_at_1": 0.32899, - "map_at_3": 0.43112, - "map_at_5": 0.45681, - "map_at_10": 0.48478, - "map_at_50": 0.50896, - "map_at_100": 0.5118, - "map_at_1000": 0.5133, - "recall_at_1": 0.32899, - "recall_at_3": 0.46546, - "recall_at_5": 0.52659, - "recall_at_10": 0.6345, - "recall_at_50": 0.82647, - "recall_at_100": 0.89724, - "recall_at_1000": 1.0, - "precision_at_1": 0.60484, - "precision_at_3": 0.3405, - "precision_at_5": 0.24086, - "precision_at_10": 0.15242, - "precision_at_50": 0.04366, - "precision_at_100": 0.02411, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.60484, - "mrr_at_3": 0.66891, - "mrr_at_5": 0.68221, - "mrr_at_10": 0.69269, - "mrr_at_50": 0.69667, - "mrr_at_100": 0.69693, - "mrr_at_1000": 0.6971 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.51913, - "ndcg_at_3": 0.47035, - "ndcg_at_5": 0.47674, - "ndcg_at_10": 0.52497, - "ndcg_at_50": 0.5986, - "ndcg_at_100": 0.61639, - "ndcg_at_1000": 0.63519, - "map_at_1": 0.2425, - "map_at_3": 0.34958, - "map_at_5": 0.38571, - "map_at_10": 0.42281, - "map_at_50": 0.45442, - "map_at_100": 0.45756, - "map_at_1000": 0.45905, - "recall_at_1": 0.2425, - "recall_at_3": 0.39983, - "recall_at_5": 0.47249, - "recall_at_10": 0.59388, - "recall_at_50": 0.81358, - "recall_at_100": 0.88922, - "recall_at_1000": 0.99772, - "precision_at_1": 0.51913, - "precision_at_3": 0.33515, - "precision_at_5": 0.25792, - "precision_at_10": 0.17568, - "precision_at_50": 0.05115, - "precision_at_100": 0.0282, - "precision_at_1000": 0.00312, - "mrr_at_1": 0.51913, - "mrr_at_3": 0.602, - "mrr_at_5": 0.61566, - "mrr_at_10": 0.62727, - "mrr_at_50": 0.63205, - "mrr_at_100": 0.63241, - "mrr_at_1000": 0.63257 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.57568, - "ndcg_at_3": 0.57171, - "ndcg_at_5": 0.59352, - "ndcg_at_10": 0.64557, - "ndcg_at_50": 0.7032, - "ndcg_at_100": 0.70748, - "ndcg_at_1000": 0.71165, - "map_at_1": 0.31796, - "map_at_3": 0.46897, - "map_at_5": 0.50773, - "map_at_10": 0.54354, - "map_at_50": 0.56843, - "map_at_100": 0.56917, - "map_at_1000": 0.56953, - "recall_at_1": 0.31796, - "recall_at_3": 0.55192, - "recall_at_5": 0.6405, - "recall_at_10": 0.76776, - "recall_at_50": 0.95615, - "recall_at_100": 0.97581, - "recall_at_1000": 1.0, - "precision_at_1": 0.57568, - "precision_at_3": 0.37748, - "precision_at_5": 0.2773, - "precision_at_10": 0.17378, - "precision_at_50": 0.04514, - "precision_at_100": 0.02311, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.57568, - "mrr_at_3": 0.67838, - "mrr_at_5": 0.69041, - "mrr_at_10": 0.69784, - "mrr_at_50": 0.70129, - "mrr_at_100": 0.70141, - "mrr_at_1000": 0.70147 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.39877, - "ndcg_at_3": 0.42627, - "ndcg_at_5": 0.46527, - "ndcg_at_10": 0.5221, - "ndcg_at_50": 0.58233, - "ndcg_at_100": 0.59028, - "ndcg_at_1000": 0.59895, - "map_at_1": 0.24451, - "map_at_3": 0.35382, - "map_at_5": 0.3907, - "map_at_10": 0.42493, - "map_at_50": 0.44575, - "map_at_100": 0.4469, - "map_at_1000": 0.44735, - "recall_at_1": 0.24451, - "recall_at_3": 0.44587, - "recall_at_5": 0.54462, - "recall_at_10": 0.68504, - "recall_at_50": 0.89831, - "recall_at_100": 0.93967, - "recall_at_1000": 1.0, - "precision_at_1": 0.39877, - "precision_at_3": 0.25971, - "precision_at_5": 0.19939, - "precision_at_10": 0.1319, - "precision_at_50": 0.03571, - "precision_at_100": 0.01862, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.39877, - "mrr_at_3": 0.50358, - "mrr_at_5": 0.52076, - "mrr_at_10": 0.53493, - "mrr_at_50": 0.54149, - "mrr_at_100": 0.5418, - "mrr_at_1000": 0.54204 - }, - "gpt3": { - "ndcg_at_1": 0.38872, - "ndcg_at_3": 0.45282, - "ndcg_at_5": 0.50362, - "ndcg_at_10": 0.54805, - "ndcg_at_50": 0.5932, - "ndcg_at_100": 0.60292, - "ndcg_at_1000": 0.60832, - "map_at_1": 0.31553, - "map_at_3": 0.40752, - "map_at_5": 0.44015, - "map_at_10": 0.46237, - "map_at_50": 0.4761, - "map_at_100": 0.47716, - "map_at_1000": 0.47741, - "recall_at_1": 0.31553, - "recall_at_3": 0.50618, - "recall_at_5": 0.6182, - "recall_at_10": 0.73714, - "recall_at_50": 0.90653, - "recall_at_100": 0.96068, - "recall_at_1000": 1.0, - "precision_at_1": 0.38872, - "precision_at_3": 0.22057, - "precision_at_5": 0.16736, - "precision_at_10": 0.10386, - "precision_at_50": 0.02682, - "precision_at_100": 0.01418, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.38872, - "mrr_at_3": 0.48417, - "mrr_at_5": 0.50969, - "mrr_at_10": 0.52376, - "mrr_at_50": 0.53011, - "mrr_at_100": 0.53082, - "mrr_at_1000": 0.53096 - }, - "llm-survey": { - "ndcg_at_1": 0.46499, - "ndcg_at_3": 0.44374, - "ndcg_at_5": 0.46159, - "ndcg_at_10": 0.50637, - "ndcg_at_50": 0.57215, - "ndcg_at_100": 0.5862, - "ndcg_at_1000": 0.60367, - "map_at_1": 0.21759, - "map_at_3": 0.34141, - "map_at_5": 0.37882, - "map_at_10": 0.41132, - "map_at_50": 0.43702, - "map_at_100": 0.43902, - "map_at_1000": 0.44011, - "recall_at_1": 0.21759, - "recall_at_3": 0.4061, - "recall_at_5": 0.48682, - "recall_at_10": 0.60294, - "recall_at_50": 0.81727, - "recall_at_100": 0.88877, - "recall_at_1000": 1.0, - "precision_at_1": 0.46499, - "precision_at_3": 0.32026, - "precision_at_5": 0.24314, - "precision_at_10": 0.15602, - "precision_at_50": 0.04398, - "precision_at_100": 0.02345, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.46499, - "mrr_at_3": 0.54715, - "mrr_at_5": 0.5585, - "mrr_at_10": 0.5708, - "mrr_at_50": 0.57655, - "mrr_at_100": 0.57719, - "mrr_at_1000": 0.57743 - }, - "gemini": { - "ndcg_at_1": 0.43775, - "ndcg_at_3": 0.54599, - "ndcg_at_5": 0.57381, - "ndcg_at_10": 0.6011, - "ndcg_at_50": 0.6394, - "ndcg_at_100": 0.64387, - "ndcg_at_1000": 0.64938, - "map_at_1": 0.43775, - "map_at_3": 0.52075, - "map_at_5": 0.53601, - "map_at_10": 0.54805, - "map_at_50": 0.55711, - "map_at_100": 0.55747, - "map_at_1000": 0.55774, - "recall_at_1": 0.43775, - "recall_at_3": 0.61847, - "recall_at_5": 0.68675, - "recall_at_10": 0.76707, - "recall_at_50": 0.93173, - "recall_at_100": 0.95984, - "recall_at_1000": 1.0, - "precision_at_1": 0.43775, - "precision_at_3": 0.20616, - "precision_at_5": 0.13735, - "precision_at_10": 0.07671, - "precision_at_50": 0.01863, - "precision_at_100": 0.0096, - "precision_at_1000": 0.001, - "mrr_at_1": 0.43775, - "mrr_at_3": 0.52075, - "mrr_at_5": 0.53601, - "mrr_at_10": 0.54805, - "mrr_at_50": 0.55711, - "mrr_at_100": 0.55747, - "mrr_at_1000": 0.55774 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.29736, - "ndcg_at_3": 0.28717, - "ndcg_at_5": 0.29863, - "ndcg_at_10": 0.34996, - "ndcg_at_50": 0.47055, - "ndcg_at_100": 0.50198, - "ndcg_at_1000": 0.50198, - "map_at_1": 0.11652, - "map_at_3": 0.1857, - "map_at_5": 0.21491, - "map_at_10": 0.25213, - "map_at_50": 0.29646, - "map_at_100": 0.30228, - "map_at_1000": 0.30228, - "recall_at_1": 0.11652, - "recall_at_3": 0.23448, - "recall_at_5": 0.30592, - "recall_at_10": 0.43949, - "recall_at_50": 0.8163, - "recall_at_100": 0.95363, - "recall_at_1000": 0.95363, - "precision_at_1": 0.29736, - "precision_at_3": 0.22632, - "precision_at_5": 0.18844, - "precision_at_10": 0.14306, - "precision_at_50": 0.05574, - "precision_at_100": 0.03226, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.29736, - "mrr_at_3": 0.38528, - "mrr_at_5": 0.40508, - "mrr_at_10": 0.42181, - "mrr_at_50": 0.43306, - "mrr_at_100": 0.43385, - "mrr_at_1000": 0.43385 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.29706, - "ndcg_at_3": 0.27666, - "ndcg_at_5": 0.27994, - "ndcg_at_10": 0.30126, - "ndcg_at_50": 0.34137, - "ndcg_at_100": 0.34601, - "ndcg_at_1000": 0.34601, - "map_at_1": 0.11436, - "map_at_3": 0.18361, - "map_at_5": 0.20962, - "map_at_10": 0.23717, - "map_at_50": 0.25588, - "map_at_100": 0.25656, - "map_at_1000": 0.25656, - "recall_at_1": 0.11436, - "recall_at_3": 0.21652, - "recall_at_5": 0.26964, - "recall_at_10": 0.34306, - "recall_at_50": 0.45759, - "recall_at_100": 0.47893, - "recall_at_1000": 0.47893, - "precision_at_1": 0.29706, - "precision_at_3": 0.21562, - "precision_at_5": 0.17413, - "precision_at_10": 0.11971, - "precision_at_50": 0.03344, - "precision_at_100": 0.01735, - "precision_at_1000": 0.00173, - "mrr_at_1": 0.29706, - "mrr_at_3": 0.34934, - "mrr_at_5": 0.36145, - "mrr_at_10": 0.36877, - "mrr_at_50": 0.37263, - "mrr_at_100": 0.37286, - "mrr_at_1000": 0.37286 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.21214, - "ndcg_at_3": 0.21503, - "ndcg_at_5": 0.22545, - "ndcg_at_10": 0.25997, - "ndcg_at_50": 0.36927, - "ndcg_at_100": 0.39634, - "ndcg_at_1000": 0.39634, - "map_at_1": 0.06325, - "map_at_3": 0.11493, - "map_at_5": 0.14173, - "map_at_10": 0.17306, - "map_at_50": 0.21551, - "map_at_100": 0.22063, - "map_at_1000": 0.22063, - "recall_at_1": 0.06325, - "recall_at_3": 0.1504, - "recall_at_5": 0.21702, - "recall_at_10": 0.3188, - "recall_at_50": 0.61957, - "recall_at_100": 0.72257, - "recall_at_1000": 0.72257, - "precision_at_1": 0.21214, - "precision_at_3": 0.18935, - "precision_at_5": 0.17101, - "precision_at_10": 0.13565, - "precision_at_50": 0.05656, - "precision_at_100": 0.03307, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.21214, - "mrr_at_3": 0.29424, - "mrr_at_5": 0.31979, - "mrr_at_10": 0.33619, - "mrr_at_50": 0.34769, - "mrr_at_100": 0.34845, - "mrr_at_1000": 0.34845 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.47584, - "ndcg_at_3": 0.46213, - "ndcg_at_5": 0.47191, - "ndcg_at_10": 0.5007, - "ndcg_at_50": 0.5517, - "ndcg_at_100": 0.55733, - "ndcg_at_1000": 0.55733, - "map_at_1": 0.20731, - "map_at_3": 0.31732, - "map_at_5": 0.36484, - "map_at_10": 0.41305, - "map_at_50": 0.44097, - "map_at_100": 0.44188, - "map_at_1000": 0.44188, - "recall_at_1": 0.20731, - "recall_at_3": 0.36413, - "recall_at_5": 0.45391, - "recall_at_10": 0.56123, - "recall_at_50": 0.69798, - "recall_at_100": 0.72301, - "recall_at_1000": 0.72301, - "precision_at_1": 0.47584, - "precision_at_3": 0.34696, - "precision_at_5": 0.28575, - "precision_at_10": 0.19938, - "precision_at_50": 0.05346, - "precision_at_100": 0.02752, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.47584, - "mrr_at_3": 0.5538, - "mrr_at_5": 0.5683, - "mrr_at_10": 0.57605, - "mrr_at_50": 0.57921, - "mrr_at_100": 0.57951, - "mrr_at_1000": 0.57951 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.55911, - "ndcg_at_3": 0.52306, - "ndcg_at_5": 0.51259, - "ndcg_at_10": 0.5369, - "ndcg_at_50": 0.6286, - "ndcg_at_100": 0.63957, - "ndcg_at_1000": 0.63957, - "map_at_1": 0.1534, - "map_at_3": 0.2868, - "map_at_5": 0.35251, - "map_at_10": 0.42483, - "map_at_50": 0.47733, - "map_at_100": 0.47992, - "map_at_1000": 0.47992, - "recall_at_1": 0.1534, - "recall_at_3": 0.3257, - "recall_at_5": 0.4292, - "recall_at_10": 0.57349, - "recall_at_50": 0.80255, - "recall_at_100": 0.84362, - "recall_at_1000": 0.84362, - "precision_at_1": 0.55911, - "precision_at_3": 0.46052, - "precision_at_5": 0.39272, - "precision_at_10": 0.28384, - "precision_at_50": 0.08373, - "precision_at_100": 0.04386, - "precision_at_1000": 0.00439, - "mrr_at_1": 0.55927, - "mrr_at_3": 0.64222, - "mrr_at_5": 0.656, - "mrr_at_10": 0.66304, - "mrr_at_50": 0.66683, - "mrr_at_100": 0.66703, - "mrr_at_1000": 0.66703 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.29562, - "ndcg_at_3": 0.26521, - "ndcg_at_5": 0.25418, - "ndcg_at_10": 0.27878, - "ndcg_at_50": 0.39434, - "ndcg_at_100": 0.4222, - "ndcg_at_1000": 0.4222, - "map_at_1": 0.06057, - "map_at_3": 0.11307, - "map_at_5": 0.13995, - "map_at_10": 0.17427, - "map_at_50": 0.22092, - "map_at_100": 0.22709, - "map_at_1000": 0.22709, - "recall_at_1": 0.06057, - "recall_at_3": 0.1423, - "recall_at_5": 0.20223, - "recall_at_10": 0.30429, - "recall_at_50": 0.59936, - "recall_at_100": 0.69692, - "recall_at_1000": 0.69692, - "precision_at_1": 0.29562, - "precision_at_3": 0.24546, - "precision_at_5": 0.21345, - "precision_at_10": 0.16697, - "precision_at_50": 0.06844, - "precision_at_100": 0.03974, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.29562, - "mrr_at_3": 0.38643, - "mrr_at_5": 0.40975, - "mrr_at_10": 0.42655, - "mrr_at_50": 0.43559, - "mrr_at_100": 0.43592, - "mrr_at_1000": 0.43592 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.48506, - "ndcg_at_3": 0.45154, - "ndcg_at_5": 0.46347, - "ndcg_at_10": 0.50248, - "ndcg_at_50": 0.56047, - "ndcg_at_100": 0.56723, - "ndcg_at_1000": 0.56723, - "map_at_1": 0.21352, - "map_at_3": 0.33764, - "map_at_5": 0.37583, - "map_at_10": 0.40987, - "map_at_50": 0.43317, - "map_at_100": 0.43427, - "map_at_1000": 0.43427, - "recall_at_1": 0.21352, - "recall_at_3": 0.3898, - "recall_at_5": 0.4688, - "recall_at_10": 0.57317, - "recall_at_50": 0.75291, - "recall_at_100": 0.78378, - "recall_at_1000": 0.78378, - "precision_at_1": 0.48506, - "precision_at_3": 0.3349, - "precision_at_5": 0.25729, - "precision_at_10": 0.16678, - "precision_at_50": 0.04531, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.48448, - "mrr_at_3": 0.56219, - "mrr_at_5": 0.57649, - "mrr_at_10": 0.58574, - "mrr_at_50": 0.59119, - "mrr_at_100": 0.59146, - "mrr_at_1000": 0.59146 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.23102, - "ndcg_at_3": 0.21213, - "ndcg_at_5": 0.21233, - "ndcg_at_10": 0.23811, - "ndcg_at_50": 0.31916, - "ndcg_at_100": 0.33586, - "ndcg_at_1000": 0.33586, - "map_at_1": 0.06311, - "map_at_3": 0.10588, - "map_at_5": 0.12846, - "map_at_10": 0.15469, - "map_at_50": 0.18471, - "map_at_100": 0.18786, - "map_at_1000": 0.18786, - "recall_at_1": 0.06311, - "recall_at_3": 0.13437, - "recall_at_5": 0.18582, - "recall_at_10": 0.2702, - "recall_at_50": 0.48934, - "recall_at_100": 0.55078, - "recall_at_1000": 0.55078, - "precision_at_1": 0.23102, - "precision_at_3": 0.18707, - "precision_at_5": 0.16454, - "precision_at_10": 0.12548, - "precision_at_50": 0.04746, - "precision_at_100": 0.02671, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.23102, - "mrr_at_3": 0.31006, - "mrr_at_5": 0.33034, - "mrr_at_10": 0.34498, - "mrr_at_50": 0.35448, - "mrr_at_100": 0.35488, - "mrr_at_1000": 0.35488 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.44164, - "ndcg_at_3": 0.46013, - "ndcg_at_5": 0.48068, - "ndcg_at_10": 0.50913, - "ndcg_at_50": 0.54241, - "ndcg_at_100": 0.54806, - "ndcg_at_1000": 0.54806, - "map_at_1": 0.27294, - "map_at_3": 0.38581, - "map_at_5": 0.42044, - "map_at_10": 0.44794, - "map_at_50": 0.46236, - "map_at_100": 0.46303, - "map_at_1000": 0.46303, - "recall_at_1": 0.27294, - "recall_at_3": 0.44158, - "recall_at_5": 0.51675, - "recall_at_10": 0.59695, - "recall_at_50": 0.70623, - "recall_at_100": 0.737, - "recall_at_1000": 0.737, - "precision_at_1": 0.44164, - "precision_at_3": 0.28328, - "precision_at_5": 0.21476, - "precision_at_10": 0.13508, - "precision_at_50": 0.03338, - "precision_at_100": 0.0172, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.44164, - "mrr_at_3": 0.50578, - "mrr_at_5": 0.5185, - "mrr_at_10": 0.52477, - "mrr_at_50": 0.52774, - "mrr_at_100": 0.52813, - "mrr_at_1000": 0.52813 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.46158, - "ndcg_at_3": 0.43213, - "ndcg_at_5": 0.45033, - "ndcg_at_10": 0.49397, - "ndcg_at_50": 0.55762, - "ndcg_at_100": 0.56794, - "ndcg_at_1000": 0.56794, - "map_at_1": 0.24162, - "map_at_3": 0.33463, - "map_at_5": 0.36409, - "map_at_10": 0.39383, - "map_at_50": 0.41819, - "map_at_100": 0.42006, - "map_at_1000": 0.42006, - "recall_at_1": 0.24162, - "recall_at_3": 0.40244, - "recall_at_5": 0.47838, - "recall_at_10": 0.5873, - "recall_at_50": 0.7808, - "recall_at_100": 0.82356, - "recall_at_1000": 0.82356, - "precision_at_1": 0.46158, - "precision_at_3": 0.2841, - "precision_at_5": 0.21441, - "precision_at_10": 0.14104, - "precision_at_50": 0.04189, - "precision_at_100": 0.02253, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.46158, - "mrr_at_3": 0.5535, - "mrr_at_5": 0.57212, - "mrr_at_10": 0.58361, - "mrr_at_50": 0.58878, - "mrr_at_100": 0.58898, - "mrr_at_1000": 0.58898 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.65142, - "ndcg_at_3": 0.60871, - "ndcg_at_5": 0.62365, - "ndcg_at_10": 0.65091, - "ndcg_at_50": 0.67391, - "ndcg_at_100": 0.67652, - "ndcg_at_1000": 0.67652, - "map_at_1": 0.38579, - "map_at_3": 0.51145, - "map_at_5": 0.54684, - "map_at_10": 0.57257, - "map_at_50": 0.58333, - "map_at_100": 0.58379, - "map_at_1000": 0.58379, - "recall_at_1": 0.38579, - "recall_at_3": 0.56208, - "recall_at_5": 0.63463, - "recall_at_10": 0.7067, - "recall_at_50": 0.77426, - "recall_at_100": 0.78562, - "recall_at_1000": 0.78562, - "precision_at_1": 0.65142, - "precision_at_3": 0.37445, - "precision_at_5": 0.27099, - "precision_at_10": 0.16178, - "precision_at_50": 0.03707, - "precision_at_100": 0.01888, - "precision_at_1000": 0.00189, - "mrr_at_1": 0.65142, - "mrr_at_3": 0.71753, - "mrr_at_5": 0.72769, - "mrr_at_10": 0.73177, - "mrr_at_50": 0.73363, - "mrr_at_100": 0.7337, - "mrr_at_1000": 0.7337 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.49105, - "ndcg_at_3": 0.43882, - "ndcg_at_5": 0.4463, - "ndcg_at_10": 0.4782, - "ndcg_at_50": 0.51706, - "ndcg_at_100": 0.51957, - "ndcg_at_1000": 0.51957, - "map_at_1": 0.20188, - "map_at_3": 0.3057, - "map_at_5": 0.34598, - "map_at_10": 0.37939, - "map_at_50": 0.39719, - "map_at_100": 0.39751, - "map_at_1000": 0.39751, - "recall_at_1": 0.20188, - "recall_at_3": 0.35744, - "recall_at_5": 0.44044, - "recall_at_10": 0.53715, - "recall_at_50": 0.65081, - "recall_at_100": 0.66355, - "recall_at_1000": 0.66355, - "precision_at_1": 0.49105, - "precision_at_3": 0.32852, - "precision_at_5": 0.25881, - "precision_at_10": 0.16707, - "precision_at_50": 0.04159, - "precision_at_100": 0.02106, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.49105, - "mrr_at_3": 0.5699, - "mrr_at_5": 0.58325, - "mrr_at_10": 0.59001, - "mrr_at_50": 0.59309, - "mrr_at_100": 0.59325, - "mrr_at_1000": 0.59325 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.31907, - "ndcg_at_3": 0.31445, - "ndcg_at_5": 0.33032, - "ndcg_at_10": 0.36209, - "ndcg_at_50": 0.44915, - "ndcg_at_100": 0.46689, - "ndcg_at_1000": 0.46689, - "map_at_1": 0.12703, - "map_at_3": 0.19977, - "map_at_5": 0.23422, - "map_at_10": 0.2646, - "map_at_50": 0.29987, - "map_at_100": 0.30327, - "map_at_1000": 0.30327, - "recall_at_1": 0.12703, - "recall_at_3": 0.2527, - "recall_at_5": 0.33577, - "recall_at_10": 0.4363, - "recall_at_50": 0.68405, - "recall_at_100": 0.7533, - "recall_at_1000": 0.7533, - "precision_at_1": 0.31907, - "precision_at_3": 0.24678, - "precision_at_5": 0.2101, - "precision_at_10": 0.14949, - "precision_at_50": 0.05185, - "precision_at_100": 0.02895, - "precision_at_1000": 0.00289, - "mrr_at_1": 0.31907, - "mrr_at_3": 0.41355, - "mrr_at_5": 0.43654, - "mrr_at_10": 0.45013, - "mrr_at_50": 0.45774, - "mrr_at_100": 0.45817, - "mrr_at_1000": 0.45817 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.48975, - "ndcg_at_3": 0.45847, - "ndcg_at_5": 0.46077, - "ndcg_at_10": 0.48348, - "ndcg_at_50": 0.51994, - "ndcg_at_100": 0.52316, - "ndcg_at_1000": 0.52316, - "map_at_1": 0.23611, - "map_at_3": 0.32908, - "map_at_5": 0.36422, - "map_at_10": 0.39543, - "map_at_50": 0.41227, - "map_at_100": 0.41281, - "map_at_1000": 0.41281, - "recall_at_1": 0.23611, - "recall_at_3": 0.38177, - "recall_at_5": 0.45038, - "recall_at_10": 0.53339, - "recall_at_50": 0.63606, - "recall_at_100": 0.64963, - "recall_at_1000": 0.64963, - "precision_at_1": 0.48975, - "precision_at_3": 0.31849, - "precision_at_5": 0.24827, - "precision_at_10": 0.16057, - "precision_at_50": 0.04093, - "precision_at_100": 0.02093, - "precision_at_1000": 0.00209, - "mrr_at_1": 0.48975, - "mrr_at_3": 0.56688, - "mrr_at_5": 0.57904, - "mrr_at_10": 0.58547, - "mrr_at_50": 0.58831, - "mrr_at_100": 0.58845, - "mrr_at_1000": 0.58845 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.54624, - "ndcg_at_3": 0.49599, - "ndcg_at_5": 0.50505, - "ndcg_at_10": 0.56093, - "ndcg_at_50": 0.64214, - "ndcg_at_100": 0.65116, - "ndcg_at_1000": 0.65116, - "map_at_1": 0.17318, - "map_at_3": 0.31438, - "map_at_5": 0.37793, - "map_at_10": 0.44266, - "map_at_50": 0.48195, - "map_at_100": 0.4838, - "map_at_1000": 0.4838, - "recall_at_1": 0.17318, - "recall_at_3": 0.36316, - "recall_at_5": 0.48229, - "recall_at_10": 0.64255, - "recall_at_50": 0.87586, - "recall_at_100": 0.91397, - "recall_at_1000": 0.91397, - "precision_at_1": 0.54624, - "precision_at_3": 0.41908, - "precision_at_5": 0.34971, - "precision_at_10": 0.24538, - "precision_at_50": 0.06809, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.54624, - "mrr_at_3": 0.63295, - "mrr_at_5": 0.6539, - "mrr_at_10": 0.6625, - "mrr_at_50": 0.66717, - "mrr_at_100": 0.66729, - "mrr_at_1000": 0.66729 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.54655, - "ndcg_at_3": 0.49693, - "ndcg_at_5": 0.48318, - "ndcg_at_10": 0.53134, - "ndcg_at_50": 0.63592, - "ndcg_at_100": 0.64642, - "ndcg_at_1000": 0.64642, - "map_at_1": 0.14722, - "map_at_3": 0.28806, - "map_at_5": 0.34822, - "map_at_10": 0.41839, - "map_at_50": 0.46932, - "map_at_100": 0.47146, - "map_at_1000": 0.47146, - "recall_at_1": 0.14722, - "recall_at_3": 0.3264, - "recall_at_5": 0.42552, - "recall_at_10": 0.59018, - "recall_at_50": 0.88716, - "recall_at_100": 0.93196, - "recall_at_1000": 0.93196, - "precision_at_1": 0.54655, - "precision_at_3": 0.43844, - "precision_at_5": 0.36096, - "precision_at_10": 0.25976, - "precision_at_50": 0.0779, - "precision_at_100": 0.04045, - "precision_at_1000": 0.00405, - "mrr_at_1": 0.54655, - "mrr_at_3": 0.62412, - "mrr_at_5": 0.63493, - "mrr_at_10": 0.64621, - "mrr_at_50": 0.65198, - "mrr_at_100": 0.65223, - "mrr_at_1000": 0.65223 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.63609, - "ndcg_at_3": 0.5742, - "ndcg_at_5": 0.56089, - "ndcg_at_10": 0.60036, - "ndcg_at_50": 0.68293, - "ndcg_at_100": 0.69115, - "ndcg_at_1000": 0.69115, - "map_at_1": 0.19792, - "map_at_3": 0.35061, - "map_at_5": 0.41735, - "map_at_10": 0.48883, - "map_at_50": 0.53442, - "map_at_100": 0.53575, - "map_at_1000": 0.53575, - "recall_at_1": 0.19792, - "recall_at_3": 0.39187, - "recall_at_5": 0.49925, - "recall_at_10": 0.64715, - "recall_at_50": 0.87315, - "recall_at_100": 0.91266, - "recall_at_1000": 0.91266, - "precision_at_1": 0.63609, - "precision_at_3": 0.48817, - "precision_at_5": 0.39763, - "precision_at_10": 0.27811, - "precision_at_50": 0.07716, - "precision_at_100": 0.03956, - "precision_at_1000": 0.00396, - "mrr_at_1": 0.63609, - "mrr_at_3": 0.70562, - "mrr_at_5": 0.71524, - "mrr_at_10": 0.7211, - "mrr_at_50": 0.72385, - "mrr_at_100": 0.72415, - "mrr_at_1000": 0.72415 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.62242, - "ndcg_at_3": 0.55864, - "ndcg_at_5": 0.55882, - "ndcg_at_10": 0.61408, - "ndcg_at_50": 0.69918, - "ndcg_at_100": 0.70896, - "ndcg_at_1000": 0.70896, - "map_at_1": 0.20242, - "map_at_3": 0.37027, - "map_at_5": 0.43411, - "map_at_10": 0.50415, - "map_at_50": 0.54788, - "map_at_100": 0.54975, - "map_at_1000": 0.54975, - "recall_at_1": 0.20242, - "recall_at_3": 0.41359, - "recall_at_5": 0.52428, - "recall_at_10": 0.67686, - "recall_at_50": 0.91871, - "recall_at_100": 0.96241, - "recall_at_1000": 0.96241, - "precision_at_1": 0.62242, - "precision_at_3": 0.47591, - "precision_at_5": 0.37817, - "precision_at_10": 0.26372, - "precision_at_50": 0.07215, - "precision_at_100": 0.03737, - "precision_at_1000": 0.00374, - "mrr_at_1": 0.62242, - "mrr_at_3": 0.70108, - "mrr_at_5": 0.71141, - "mrr_at_10": 0.71625, - "mrr_at_50": 0.72154, - "mrr_at_100": 0.72177, - "mrr_at_1000": 0.72177 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.74728, - "ndcg_at_3": 0.68203, - "ndcg_at_5": 0.6815, - "ndcg_at_10": 0.72597, - "ndcg_at_50": 0.79322, - "ndcg_at_100": 0.797, - "ndcg_at_1000": 0.797, - "map_at_1": 0.27028, - "map_at_3": 0.45976, - "map_at_5": 0.54444, - "map_at_10": 0.617, - "map_at_50": 0.65906, - "map_at_100": 0.65993, - "map_at_1000": 0.65993, - "recall_at_1": 0.27028, - "recall_at_3": 0.49971, - "recall_at_5": 0.63077, - "recall_at_10": 0.77597, - "recall_at_50": 0.95046, - "recall_at_100": 0.96491, - "recall_at_1000": 0.96491, - "precision_at_1": 0.74728, - "precision_at_3": 0.56069, - "precision_at_5": 0.45761, - "precision_at_10": 0.30163, - "precision_at_50": 0.07679, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.74728, - "mrr_at_3": 0.82201, - "mrr_at_5": 0.82935, - "mrr_at_10": 0.8338, - "mrr_at_50": 0.8351, - "mrr_at_100": 0.83514, - "mrr_at_1000": 0.83514 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.58036, - "ndcg_at_3": 0.53142, - "ndcg_at_5": 0.5418, - "ndcg_at_10": 0.57955, - "ndcg_at_50": 0.64206, - "ndcg_at_100": 0.64856, - "ndcg_at_1000": 0.64856, - "map_at_1": 0.24299, - "map_at_3": 0.39568, - "map_at_5": 0.44869, - "map_at_10": 0.48967, - "map_at_50": 0.51878, - "map_at_100": 0.51993, - "map_at_1000": 0.51993, - "recall_at_1": 0.24299, - "recall_at_3": 0.44292, - "recall_at_5": 0.5383, - "recall_at_10": 0.64255, - "recall_at_50": 0.83258, - "recall_at_100": 0.86295, - "recall_at_1000": 0.86295, - "precision_at_1": 0.58036, - "precision_at_3": 0.40575, - "precision_at_5": 0.32024, - "precision_at_10": 0.20327, - "precision_at_50": 0.05399, - "precision_at_100": 0.02783, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.58036, - "mrr_at_3": 0.64236, - "mrr_at_5": 0.65456, - "mrr_at_10": 0.66092, - "mrr_at_50": 0.66515, - "mrr_at_100": 0.66535, - "mrr_at_1000": 0.66535 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.65915, - "ndcg_at_3": 0.6016, - "ndcg_at_5": 0.62038, - "ndcg_at_10": 0.6663, - "ndcg_at_50": 0.71614, - "ndcg_at_100": 0.71977, - "ndcg_at_1000": 0.71977, - "map_at_1": 0.30971, - "map_at_3": 0.47251, - "map_at_5": 0.52415, - "map_at_10": 0.56337, - "map_at_50": 0.58735, - "map_at_100": 0.58799, - "map_at_1000": 0.58799, - "recall_at_1": 0.30971, - "recall_at_3": 0.54173, - "recall_at_5": 0.63979, - "recall_at_10": 0.74933, - "recall_at_50": 0.89877, - "recall_at_100": 0.91525, - "recall_at_1000": 0.91525, - "precision_at_1": 0.65915, - "precision_at_3": 0.42723, - "precision_at_5": 0.32113, - "precision_at_10": 0.19944, - "precision_at_50": 0.04969, - "precision_at_100": 0.0253, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.65915, - "mrr_at_3": 0.74554, - "mrr_at_5": 0.75484, - "mrr_at_10": 0.7598, - "mrr_at_50": 0.76233, - "mrr_at_100": 0.76243, - "mrr_at_1000": 0.76243 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64706, - "ndcg_at_3": 0.57727, - "ndcg_at_5": 0.60468, - "ndcg_at_10": 0.65801, - "ndcg_at_50": 0.7081, - "ndcg_at_100": 0.71213, - "ndcg_at_1000": 0.71213, - "map_at_1": 0.31251, - "map_at_3": 0.46205, - "map_at_5": 0.51113, - "map_at_10": 0.5554, - "map_at_50": 0.57774, - "map_at_100": 0.57837, - "map_at_1000": 0.57837, - "recall_at_1": 0.31251, - "recall_at_3": 0.51646, - "recall_at_5": 0.6246, - "recall_at_10": 0.74764, - "recall_at_50": 0.89998, - "recall_at_100": 0.91945, - "recall_at_1000": 0.91945, - "precision_at_1": 0.64706, - "precision_at_3": 0.39963, - "precision_at_5": 0.30644, - "precision_at_10": 0.19776, - "precision_at_50": 0.04936, - "precision_at_100": 0.02513, - "precision_at_1000": 0.00251, - "mrr_at_1": 0.64706, - "mrr_at_3": 0.72035, - "mrr_at_5": 0.7366, - "mrr_at_10": 0.74316, - "mrr_at_50": 0.74558, - "mrr_at_100": 0.74572, - "mrr_at_1000": 0.74572 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.64516, - "ndcg_at_3": 0.59264, - "ndcg_at_5": 0.61421, - "ndcg_at_10": 0.65766, - "ndcg_at_50": 0.70873, - "ndcg_at_100": 0.71372, - "ndcg_at_1000": 0.71372, - "map_at_1": 0.35697, - "map_at_3": 0.49039, - "map_at_5": 0.53395, - "map_at_10": 0.56784, - "map_at_50": 0.5911, - "map_at_100": 0.59196, - "map_at_1000": 0.59196, - "recall_at_1": 0.35697, - "recall_at_3": 0.53558, - "recall_at_5": 0.62644, - "recall_at_10": 0.72295, - "recall_at_50": 0.87385, - "recall_at_100": 0.89724, - "recall_at_1000": 0.89724, - "precision_at_1": 0.64516, - "precision_at_3": 0.3871, - "precision_at_5": 0.29301, - "precision_at_10": 0.18333, - "precision_at_50": 0.04704, - "precision_at_100": 0.02411, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.64516, - "mrr_at_3": 0.71729, - "mrr_at_5": 0.73248, - "mrr_at_10": 0.7359, - "mrr_at_50": 0.73909, - "mrr_at_100": 0.73917, - "mrr_at_1000": 0.73917 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.46175, - "ndcg_at_3": 0.43201, - "ndcg_at_5": 0.44815, - "ndcg_at_10": 0.49969, - "ndcg_at_50": 0.58179, - "ndcg_at_100": 0.59333, - "ndcg_at_1000": 0.59333, - "map_at_1": 0.19603, - "map_at_3": 0.30768, - "map_at_5": 0.35234, - "map_at_10": 0.39631, - "map_at_50": 0.43139, - "map_at_100": 0.43332, - "map_at_1000": 0.43332, - "recall_at_1": 0.19603, - "recall_at_3": 0.3563, - "recall_at_5": 0.45441, - "recall_at_10": 0.58361, - "recall_at_50": 0.83575, - "recall_at_100": 0.88922, - "recall_at_1000": 0.88922, - "precision_at_1": 0.46175, - "precision_at_3": 0.33424, - "precision_at_5": 0.2694, - "precision_at_10": 0.18333, - "precision_at_50": 0.05361, - "precision_at_100": 0.0282, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.46175, - "mrr_at_3": 0.54736, - "mrr_at_5": 0.5684, - "mrr_at_10": 0.57933, - "mrr_at_50": 0.58564, - "mrr_at_100": 0.58613, - "mrr_at_1000": 0.58613 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.52973, - "ndcg_at_3": 0.53588, - "ndcg_at_5": 0.57491, - "ndcg_at_10": 0.63768, - "ndcg_at_50": 0.68897, - "ndcg_at_100": 0.69452, - "ndcg_at_1000": 0.69452, - "map_at_1": 0.30015, - "map_at_3": 0.43884, - "map_at_5": 0.49002, - "map_at_10": 0.5359, - "map_at_50": 0.55781, - "map_at_100": 0.5586, - "map_at_1000": 0.5586, - "recall_at_1": 0.30015, - "recall_at_3": 0.51963, - "recall_at_5": 0.63293, - "recall_at_10": 0.78377, - "recall_at_50": 0.94635, - "recall_at_100": 0.97581, - "recall_at_1000": 0.97581, - "precision_at_1": 0.52973, - "precision_at_3": 0.35135, - "precision_at_5": 0.27568, - "precision_at_10": 0.18027, - "precision_at_50": 0.04519, - "precision_at_100": 0.02311, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.52973, - "mrr_at_3": 0.63694, - "mrr_at_5": 0.65261, - "mrr_at_10": 0.66278, - "mrr_at_50": 0.66683, - "mrr_at_100": 0.66705, - "mrr_at_1000": 0.66705 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41718, - "ndcg_at_3": 0.46187, - "ndcg_at_5": 0.49304, - "ndcg_at_10": 0.55039, - "ndcg_at_50": 0.60491, - "ndcg_at_100": 0.61219, - "ndcg_at_1000": 0.61219, - "map_at_1": 0.25736, - "map_at_3": 0.38969, - "map_at_5": 0.42318, - "map_at_10": 0.46017, - "map_at_50": 0.47924, - "map_at_100": 0.48019, - "map_at_1000": 0.48019, - "recall_at_1": 0.25736, - "recall_at_3": 0.48513, - "recall_at_5": 0.568, - "recall_at_10": 0.708, - "recall_at_50": 0.90123, - "recall_at_100": 0.93967, - "recall_at_1000": 0.93967, - "precision_at_1": 0.41718, - "precision_at_3": 0.28732, - "precision_at_5": 0.21472, - "precision_at_10": 0.14018, - "precision_at_50": 0.03595, - "precision_at_100": 0.01862, - "precision_at_1000": 0.00186, - "mrr_at_1": 0.41718, - "mrr_at_3": 0.52147, - "mrr_at_5": 0.53773, - "mrr_at_10": 0.54952, - "mrr_at_50": 0.55717, - "mrr_at_100": 0.55751, - "mrr_at_1000": 0.55751 - }, - "gpt3": { - "ndcg_at_1": 0.37389, - "ndcg_at_3": 0.45748, - "ndcg_at_5": 0.50615, - "ndcg_at_10": 0.54866, - "ndcg_at_50": 0.59732, - "ndcg_at_100": 0.60346, - "ndcg_at_1000": 0.60346, - "map_at_1": 0.29773, - "map_at_3": 0.40715, - "map_at_5": 0.44075, - "map_at_10": 0.46314, - "map_at_50": 0.47728, - "map_at_100": 0.47801, - "map_at_1000": 0.47801, - "recall_at_1": 0.29773, - "recall_at_3": 0.51533, - "recall_at_5": 0.61944, - "recall_at_10": 0.73318, - "recall_at_50": 0.92656, - "recall_at_100": 0.96068, - "recall_at_1000": 0.96068, - "precision_at_1": 0.37389, - "precision_at_3": 0.23244, - "precision_at_5": 0.17567, - "precision_at_10": 0.10623, - "precision_at_50": 0.02736, - "precision_at_100": 0.01418, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.37389, - "mrr_at_3": 0.49159, - "mrr_at_5": 0.51222, - "mrr_at_10": 0.52482, - "mrr_at_50": 0.53129, - "mrr_at_100": 0.53161, - "mrr_at_1000": 0.53161 - }, - "llm-survey": { - "ndcg_at_1": 0.46499, - "ndcg_at_3": 0.44049, - "ndcg_at_5": 0.46549, - "ndcg_at_10": 0.5133, - "ndcg_at_50": 0.57655, - "ndcg_at_100": 0.5904, - "ndcg_at_1000": 0.5904, - "map_at_1": 0.22483, - "map_at_3": 0.34392, - "map_at_5": 0.38321, - "map_at_10": 0.42201, - "map_at_50": 0.44734, - "map_at_100": 0.44906, - "map_at_1000": 0.44906, - "recall_at_1": 0.22483, - "recall_at_3": 0.39511, - "recall_at_5": 0.486, - "recall_at_10": 0.60279, - "recall_at_50": 0.81645, - "recall_at_100": 0.88877, - "recall_at_1000": 0.88877, - "precision_at_1": 0.46499, - "precision_at_3": 0.31933, - "precision_at_5": 0.24762, - "precision_at_10": 0.16499, - "precision_at_50": 0.04426, - "precision_at_100": 0.02345, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.46499, - "mrr_at_3": 0.54575, - "mrr_at_5": 0.56256, - "mrr_at_10": 0.57037, - "mrr_at_50": 0.57653, - "mrr_at_100": 0.5773, - "mrr_at_1000": 0.5773 - }, - "gemini": { - "ndcg_at_1": 0.41365, - "ndcg_at_3": 0.53595, - "ndcg_at_5": 0.57415, - "ndcg_at_10": 0.59862, - "ndcg_at_50": 0.63231, - "ndcg_at_100": 0.63559, - "ndcg_at_1000": 0.63559, - "map_at_1": 0.41365, - "map_at_3": 0.50602, - "map_at_5": 0.52731, - "map_at_10": 0.53729, - "map_at_50": 0.54499, - "map_at_100": 0.54528, - "map_at_1000": 0.54528, - "recall_at_1": 0.41365, - "recall_at_3": 0.62249, - "recall_at_5": 0.71486, - "recall_at_10": 0.79116, - "recall_at_50": 0.93976, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.41365, - "precision_at_3": 0.2075, - "precision_at_5": 0.14297, - "precision_at_10": 0.07912, - "precision_at_50": 0.0188, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.41365, - "mrr_at_3": 0.50602, - "mrr_at_5": 0.52731, - "mrr_at_10": 0.53729, - "mrr_at_50": 0.54499, - "mrr_at_100": 0.54528, - "mrr_at_1000": 0.54528 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.18447, - "ndcg_at_3": 0.1843, - "ndcg_at_5": 0.19909, - "ndcg_at_10": 0.23952, - "ndcg_at_50": 0.37156, - "ndcg_at_100": 0.42063, - "ndcg_at_1000": 0.42063, - "map_at_1": 0.06779, - "map_at_3": 0.11371, - "map_at_5": 0.13482, - "map_at_10": 0.15933, - "map_at_50": 0.20118, - "map_at_100": 0.20995, - "map_at_1000": 0.20995, - "recall_at_1": 0.06779, - "recall_at_3": 0.15308, - "recall_at_5": 0.21323, - "recall_at_10": 0.31926, - "recall_at_50": 0.74311, - "recall_at_100": 0.95363, - "recall_at_1000": 0.95363, - "precision_at_1": 0.18447, - "precision_at_3": 0.14794, - "precision_at_5": 0.13018, - "precision_at_10": 0.10094, - "precision_at_50": 0.04994, - "precision_at_100": 0.03226, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.18447, - "mrr_at_3": 0.25798, - "mrr_at_5": 0.28001, - "mrr_at_10": 0.29746, - "mrr_at_50": 0.31342, - "mrr_at_100": 0.31454, - "mrr_at_1000": 0.31454 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.27429, - "ndcg_at_3": 0.26393, - "ndcg_at_5": 0.2691, - "ndcg_at_10": 0.2894, - "ndcg_at_50": 0.33196, - "ndcg_at_100": 0.3374, - "ndcg_at_1000": 0.3374, - "map_at_1": 0.10908, - "map_at_3": 0.17489, - "map_at_5": 0.20137, - "map_at_10": 0.22635, - "map_at_50": 0.24562, - "map_at_100": 0.24646, - "map_at_1000": 0.24646, - "recall_at_1": 0.10908, - "recall_at_3": 0.21119, - "recall_at_5": 0.26233, - "recall_at_10": 0.33202, - "recall_at_50": 0.45461, - "recall_at_100": 0.47893, - "recall_at_1000": 0.47893, - "precision_at_1": 0.27429, - "precision_at_3": 0.20526, - "precision_at_5": 0.16724, - "precision_at_10": 0.11455, - "precision_at_50": 0.03317, - "precision_at_100": 0.01735, - "precision_at_1000": 0.00173, - "mrr_at_1": 0.27485, - "mrr_at_3": 0.33426, - "mrr_at_5": 0.34453, - "mrr_at_10": 0.35247, - "mrr_at_50": 0.35647, - "mrr_at_100": 0.35676, - "mrr_at_1000": 0.35676 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.15616, - "ndcg_at_3": 0.16281, - "ndcg_at_5": 0.16909, - "ndcg_at_10": 0.20054, - "ndcg_at_50": 0.30551, - "ndcg_at_100": 0.35087, - "ndcg_at_1000": 0.35087, - "map_at_1": 0.04765, - "map_at_3": 0.08594, - "map_at_5": 0.10514, - "map_at_10": 0.12978, - "map_at_50": 0.16465, - "map_at_100": 0.17287, - "map_at_1000": 0.17287, - "recall_at_1": 0.04765, - "recall_at_3": 0.11504, - "recall_at_5": 0.16242, - "recall_at_10": 0.25165, - "recall_at_50": 0.54926, - "recall_at_100": 0.72257, - "recall_at_1000": 0.72257, - "precision_at_1": 0.15616, - "precision_at_3": 0.14319, - "precision_at_5": 0.12775, - "precision_at_10": 0.10625, - "precision_at_50": 0.04997, - "precision_at_100": 0.03307, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.15616, - "mrr_at_3": 0.22432, - "mrr_at_5": 0.24306, - "mrr_at_10": 0.26194, - "mrr_at_50": 0.27605, - "mrr_at_100": 0.27723, - "mrr_at_1000": 0.27723 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.49504, - "ndcg_at_3": 0.4918, - "ndcg_at_5": 0.5028, - "ndcg_at_10": 0.52972, - "ndcg_at_50": 0.57366, - "ndcg_at_100": 0.5778, - "ndcg_at_1000": 0.5778, - "map_at_1": 0.21465, - "map_at_3": 0.34114, - "map_at_5": 0.39426, - "map_at_10": 0.44308, - "map_at_50": 0.46848, - "map_at_100": 0.46919, - "map_at_1000": 0.46919, - "recall_at_1": 0.21465, - "recall_at_3": 0.3959, - "recall_at_5": 0.48692, - "recall_at_10": 0.59093, - "recall_at_50": 0.70493, - "recall_at_100": 0.72301, - "recall_at_1000": 0.72301, - "precision_at_1": 0.49504, - "precision_at_3": 0.3703, - "precision_at_5": 0.30657, - "precision_at_10": 0.20979, - "precision_at_50": 0.05383, - "precision_at_100": 0.02752, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.49442, - "mrr_at_3": 0.58127, - "mrr_at_5": 0.59326, - "mrr_at_10": 0.60076, - "mrr_at_50": 0.60371, - "mrr_at_100": 0.60388, - "mrr_at_1000": 0.60388 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.56417, - "ndcg_at_3": 0.53028, - "ndcg_at_5": 0.52041, - "ndcg_at_10": 0.54686, - "ndcg_at_50": 0.63595, - "ndcg_at_100": 0.64526, - "ndcg_at_1000": 0.64526, - "map_at_1": 0.15409, - "map_at_3": 0.28987, - "map_at_5": 0.35825, - "map_at_10": 0.43376, - "map_at_50": 0.4854, - "map_at_100": 0.48768, - "map_at_1000": 0.48768, - "recall_at_1": 0.15409, - "recall_at_3": 0.32927, - "recall_at_5": 0.43631, - "recall_at_10": 0.58614, - "recall_at_50": 0.80921, - "recall_at_100": 0.84362, - "recall_at_1000": 0.84362, - "precision_at_1": 0.56417, - "precision_at_3": 0.46743, - "precision_at_5": 0.40016, - "precision_at_10": 0.29084, - "precision_at_50": 0.08427, - "precision_at_100": 0.04386, - "precision_at_1000": 0.00439, - "mrr_at_1": 0.56433, - "mrr_at_3": 0.64836, - "mrr_at_5": 0.66236, - "mrr_at_10": 0.66963, - "mrr_at_50": 0.67332, - "mrr_at_100": 0.67345, - "mrr_at_1000": 0.67345 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.1825, - "ndcg_at_3": 0.16545, - "ndcg_at_5": 0.16545, - "ndcg_at_10": 0.18671, - "ndcg_at_50": 0.31172, - "ndcg_at_100": 0.35729, - "ndcg_at_1000": 0.35729, - "map_at_1": 0.03634, - "map_at_3": 0.06726, - "map_at_5": 0.08491, - "map_at_10": 0.1055, - "map_at_50": 0.14819, - "map_at_100": 0.15783, - "map_at_1000": 0.15783, - "recall_at_1": 0.03634, - "recall_at_3": 0.08973, - "recall_at_5": 0.1364, - "recall_at_10": 0.21201, - "recall_at_50": 0.53824, - "recall_at_100": 0.69692, - "recall_at_1000": 0.69692, - "precision_at_1": 0.1825, - "precision_at_3": 0.15422, - "precision_at_5": 0.14226, - "precision_at_10": 0.11489, - "precision_at_50": 0.0611, - "precision_at_100": 0.03974, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.1825, - "mrr_at_3": 0.25658, - "mrr_at_5": 0.28345, - "mrr_at_10": 0.30076, - "mrr_at_50": 0.31528, - "mrr_at_100": 0.31593, - "mrr_at_1000": 0.31593 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.51728, - "ndcg_at_3": 0.47517, - "ndcg_at_5": 0.48972, - "ndcg_at_10": 0.52806, - "ndcg_at_50": 0.57944, - "ndcg_at_100": 0.58539, - "ndcg_at_1000": 0.58539, - "map_at_1": 0.22544, - "map_at_3": 0.35513, - "map_at_5": 0.39836, - "map_at_10": 0.43321, - "map_at_50": 0.45474, - "map_at_100": 0.45574, - "map_at_1000": 0.45574, - "recall_at_1": 0.22544, - "recall_at_3": 0.40717, - "recall_at_5": 0.4939, - "recall_at_10": 0.59915, - "recall_at_50": 0.75665, - "recall_at_100": 0.78378, - "recall_at_1000": 0.78378, - "precision_at_1": 0.51728, - "precision_at_3": 0.35364, - "precision_at_5": 0.27417, - "precision_at_10": 0.17463, - "precision_at_50": 0.04547, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.51728, - "mrr_at_3": 0.5952, - "mrr_at_5": 0.60806, - "mrr_at_10": 0.617, - "mrr_at_50": 0.62146, - "mrr_at_100": 0.62166, - "mrr_at_1000": 0.62166 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.17396, - "ndcg_at_3": 0.15915, - "ndcg_at_5": 0.16203, - "ndcg_at_10": 0.18708, - "ndcg_at_50": 0.27252, - "ndcg_at_100": 0.29904, - "ndcg_at_1000": 0.29904, - "map_at_1": 0.04935, - "map_at_3": 0.08029, - "map_at_5": 0.09736, - "map_at_10": 0.11791, - "map_at_50": 0.14683, - "map_at_100": 0.15149, - "map_at_1000": 0.15149, - "recall_at_1": 0.04935, - "recall_at_3": 0.10193, - "recall_at_5": 0.14269, - "recall_at_10": 0.21779, - "recall_at_50": 0.45163, - "recall_at_100": 0.55078, - "recall_at_1000": 0.55078, - "precision_at_1": 0.17396, - "precision_at_3": 0.13943, - "precision_at_5": 0.12654, - "precision_at_10": 0.10122, - "precision_at_50": 0.04378, - "precision_at_100": 0.02671, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.17396, - "mrr_at_3": 0.23241, - "mrr_at_5": 0.25252, - "mrr_at_10": 0.26993, - "mrr_at_50": 0.28221, - "mrr_at_100": 0.28295, - "mrr_at_1000": 0.28295 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.43596, - "ndcg_at_3": 0.46371, - "ndcg_at_5": 0.48492, - "ndcg_at_10": 0.5149, - "ndcg_at_50": 0.54615, - "ndcg_at_100": 0.5505, - "ndcg_at_1000": 0.5505, - "map_at_1": 0.26603, - "map_at_3": 0.38786, - "map_at_5": 0.42309, - "map_at_10": 0.45179, - "map_at_50": 0.465, - "map_at_100": 0.46551, - "map_at_1000": 0.46551, - "recall_at_1": 0.26603, - "recall_at_3": 0.44882, - "recall_at_5": 0.52621, - "recall_at_10": 0.61027, - "recall_at_50": 0.71275, - "recall_at_100": 0.737, - "recall_at_1000": 0.737, - "precision_at_1": 0.43596, - "precision_at_3": 0.28917, - "precision_at_5": 0.21855, - "precision_at_10": 0.13754, - "precision_at_50": 0.03365, - "precision_at_100": 0.0172, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.43533, - "mrr_at_3": 0.50789, - "mrr_at_5": 0.51962, - "mrr_at_10": 0.52604, - "mrr_at_50": 0.52916, - "mrr_at_100": 0.52945, - "mrr_at_1000": 0.52945 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.32162, - "ndcg_at_3": 0.32488, - "ndcg_at_5": 0.3441, - "ndcg_at_10": 0.38498, - "ndcg_at_50": 0.46148, - "ndcg_at_100": 0.48334, - "ndcg_at_1000": 0.48334, - "map_at_1": 0.16938, - "map_at_3": 0.24667, - "map_at_5": 0.27054, - "map_at_10": 0.29423, - "map_at_50": 0.3195, - "map_at_100": 0.32311, - "map_at_1000": 0.32311, - "recall_at_1": 0.16938, - "recall_at_3": 0.31403, - "recall_at_5": 0.38167, - "recall_at_10": 0.48462, - "recall_at_50": 0.73032, - "recall_at_100": 0.82356, - "recall_at_1000": 0.82356, - "precision_at_1": 0.32162, - "precision_at_3": 0.21958, - "precision_at_5": 0.16927, - "precision_at_10": 0.11513, - "precision_at_50": 0.03864, - "precision_at_100": 0.02253, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.32162, - "mrr_at_3": 0.41632, - "mrr_at_5": 0.43633, - "mrr_at_10": 0.45002, - "mrr_at_50": 0.45938, - "mrr_at_100": 0.45998, - "mrr_at_1000": 0.45998 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.63521, - "ndcg_at_3": 0.59906, - "ndcg_at_5": 0.61454, - "ndcg_at_10": 0.64302, - "ndcg_at_50": 0.6662, - "ndcg_at_100": 0.66877, - "ndcg_at_1000": 0.66877, - "map_at_1": 0.37444, - "map_at_3": 0.50102, - "map_at_5": 0.53669, - "map_at_10": 0.56259, - "map_at_50": 0.57328, - "map_at_100": 0.57373, - "map_at_1000": 0.57373, - "recall_at_1": 0.37444, - "recall_at_3": 0.55568, - "recall_at_5": 0.62993, - "recall_at_10": 0.7046, - "recall_at_50": 0.7745, - "recall_at_100": 0.78562, - "recall_at_1000": 0.78562, - "precision_at_1": 0.63521, - "precision_at_3": 0.37155, - "precision_at_5": 0.2696, - "precision_at_10": 0.16167, - "precision_at_50": 0.03705, - "precision_at_100": 0.01888, - "precision_at_1000": 0.00189, - "mrr_at_1": 0.63521, - "mrr_at_3": 0.70537, - "mrr_at_5": 0.71524, - "mrr_at_10": 0.7202, - "mrr_at_50": 0.72195, - "mrr_at_100": 0.72201, - "mrr_at_1000": 0.72201 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.48122, - "ndcg_at_3": 0.43526, - "ndcg_at_5": 0.43972, - "ndcg_at_10": 0.47117, - "ndcg_at_50": 0.51285, - "ndcg_at_100": 0.51576, - "ndcg_at_1000": 0.51576, - "map_at_1": 0.20298, - "map_at_3": 0.30635, - "map_at_5": 0.34264, - "map_at_10": 0.37435, - "map_at_50": 0.39289, - "map_at_100": 0.39328, - "map_at_1000": 0.39328, - "recall_at_1": 0.20298, - "recall_at_3": 0.35921, - "recall_at_5": 0.43217, - "recall_at_10": 0.52622, - "recall_at_50": 0.64919, - "recall_at_100": 0.66355, - "recall_at_1000": 0.66355, - "precision_at_1": 0.48122, - "precision_at_3": 0.32525, - "precision_at_5": 0.25199, - "precision_at_10": 0.16245, - "precision_at_50": 0.04148, - "precision_at_100": 0.02106, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.48122, - "mrr_at_3": 0.5622, - "mrr_at_5": 0.57433, - "mrr_at_10": 0.58209, - "mrr_at_50": 0.58525, - "mrr_at_100": 0.58543, - "mrr_at_1000": 0.58543 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.25966, - "ndcg_at_3": 0.26482, - "ndcg_at_5": 0.27734, - "ndcg_at_10": 0.31119, - "ndcg_at_50": 0.39969, - "ndcg_at_100": 0.4301, - "ndcg_at_1000": 0.4301, - "map_at_1": 0.11806, - "map_at_3": 0.17686, - "map_at_5": 0.20101, - "map_at_10": 0.22766, - "map_at_50": 0.2601, - "map_at_100": 0.2656, - "map_at_1000": 0.2656, - "recall_at_1": 0.11806, - "recall_at_3": 0.21874, - "recall_at_5": 0.28074, - "recall_at_10": 0.37648, - "recall_at_50": 0.63191, - "recall_at_100": 0.7533, - "recall_at_1000": 0.7533, - "precision_at_1": 0.25966, - "precision_at_3": 0.19984, - "precision_at_5": 0.16791, - "precision_at_10": 0.12585, - "precision_at_50": 0.0477, - "precision_at_100": 0.02895, - "precision_at_1000": 0.00289, - "mrr_at_1": 0.25966, - "mrr_at_3": 0.34492, - "mrr_at_5": 0.36679, - "mrr_at_10": 0.38228, - "mrr_at_50": 0.39165, - "mrr_at_100": 0.39256, - "mrr_at_1000": 0.39256 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.49326, - "ndcg_at_3": 0.47297, - "ndcg_at_5": 0.47718, - "ndcg_at_10": 0.50041, - "ndcg_at_50": 0.53145, - "ndcg_at_100": 0.5338, - "ndcg_at_1000": 0.5338, - "map_at_1": 0.23987, - "map_at_3": 0.3389, - "map_at_5": 0.37683, - "map_at_10": 0.41021, - "map_at_50": 0.42559, - "map_at_100": 0.42596, - "map_at_1000": 0.42596, - "recall_at_1": 0.23987, - "recall_at_3": 0.39488, - "recall_at_5": 0.47056, - "recall_at_10": 0.55386, - "recall_at_50": 0.63892, - "recall_at_100": 0.64963, - "recall_at_1000": 0.64963, - "precision_at_1": 0.49326, - "precision_at_3": 0.33197, - "precision_at_5": 0.26034, - "precision_at_10": 0.16889, - "precision_at_50": 0.04127, - "precision_at_100": 0.02093, - "precision_at_1000": 0.00209, - "mrr_at_1": 0.49326, - "mrr_at_3": 0.58065, - "mrr_at_5": 0.59351, - "mrr_at_10": 0.59878, - "mrr_at_50": 0.60088, - "mrr_at_100": 0.60099, - "mrr_at_1000": 0.60099 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.52312, - "ndcg_at_3": 0.48424, - "ndcg_at_5": 0.4786, - "ndcg_at_10": 0.53239, - "ndcg_at_50": 0.623, - "ndcg_at_100": 0.63357, - "ndcg_at_1000": 0.63357, - "map_at_1": 0.16582, - "map_at_3": 0.30614, - "map_at_5": 0.35938, - "map_at_10": 0.42035, - "map_at_50": 0.46319, - "map_at_100": 0.46512, - "map_at_1000": 0.46512, - "recall_at_1": 0.16582, - "recall_at_3": 0.35561, - "recall_at_5": 0.44978, - "recall_at_10": 0.60502, - "recall_at_50": 0.86717, - "recall_at_100": 0.91397, - "recall_at_1000": 0.91397, - "precision_at_1": 0.52312, - "precision_at_3": 0.41618, - "precision_at_5": 0.33295, - "precision_at_10": 0.23382, - "precision_at_50": 0.0678, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.52312, - "mrr_at_3": 0.60453, - "mrr_at_5": 0.61667, - "mrr_at_10": 0.62907, - "mrr_at_50": 0.63522, - "mrr_at_100": 0.6355, - "mrr_at_1000": 0.6355 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.52853, - "ndcg_at_3": 0.49184, - "ndcg_at_5": 0.48054, - "ndcg_at_10": 0.52454, - "ndcg_at_50": 0.62524, - "ndcg_at_100": 0.6408, - "ndcg_at_1000": 0.6408, - "map_at_1": 0.14828, - "map_at_3": 0.28388, - "map_at_5": 0.34129, - "map_at_10": 0.40835, - "map_at_50": 0.45934, - "map_at_100": 0.46267, - "map_at_1000": 0.46267, - "recall_at_1": 0.14828, - "recall_at_3": 0.32367, - "recall_at_5": 0.42786, - "recall_at_10": 0.58635, - "recall_at_50": 0.86741, - "recall_at_100": 0.93196, - "recall_at_1000": 0.93196, - "precision_at_1": 0.52853, - "precision_at_3": 0.43544, - "precision_at_5": 0.35976, - "precision_at_10": 0.25495, - "precision_at_50": 0.07622, - "precision_at_100": 0.04045, - "precision_at_1000": 0.00405, - "mrr_at_1": 0.53153, - "mrr_at_3": 0.61061, - "mrr_at_5": 0.62818, - "mrr_at_10": 0.63753, - "mrr_at_50": 0.64317, - "mrr_at_100": 0.64344, - "mrr_at_1000": 0.64344 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.59172, - "ndcg_at_3": 0.53852, - "ndcg_at_5": 0.52606, - "ndcg_at_10": 0.57313, - "ndcg_at_50": 0.65914, - "ndcg_at_100": 0.66997, - "ndcg_at_1000": 0.66997, - "map_at_1": 0.17764, - "map_at_3": 0.32601, - "map_at_5": 0.38859, - "map_at_10": 0.46121, - "map_at_50": 0.50901, - "map_at_100": 0.51085, - "map_at_1000": 0.51085, - "recall_at_1": 0.17764, - "recall_at_3": 0.36376, - "recall_at_5": 0.46104, - "recall_at_10": 0.63189, - "recall_at_50": 0.86486, - "recall_at_100": 0.91266, - "recall_at_1000": 0.91266, - "precision_at_1": 0.59172, - "precision_at_3": 0.4645, - "precision_at_5": 0.38107, - "precision_at_10": 0.27219, - "precision_at_50": 0.07615, - "precision_at_100": 0.03956, - "precision_at_1000": 0.00396, - "mrr_at_1": 0.59467, - "mrr_at_3": 0.66617, - "mrr_at_5": 0.67505, - "mrr_at_10": 0.68609, - "mrr_at_50": 0.68969, - "mrr_at_100": 0.69013, - "mrr_at_1000": 0.69013 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.61357, - "ndcg_at_3": 0.54745, - "ndcg_at_5": 0.55208, - "ndcg_at_10": 0.60067, - "ndcg_at_50": 0.69039, - "ndcg_at_100": 0.70208, - "ndcg_at_1000": 0.70208, - "map_at_1": 0.20858, - "map_at_3": 0.36396, - "map_at_5": 0.4282, - "map_at_10": 0.4903, - "map_at_50": 0.53648, - "map_at_100": 0.53854, - "map_at_1000": 0.53854, - "recall_at_1": 0.20858, - "recall_at_3": 0.40839, - "recall_at_5": 0.51868, - "recall_at_10": 0.6586, - "recall_at_50": 0.90968, - "recall_at_100": 0.96241, - "recall_at_1000": 0.96241, - "precision_at_1": 0.61357, - "precision_at_3": 0.46116, - "precision_at_5": 0.37168, - "precision_at_10": 0.25339, - "precision_at_50": 0.07162, - "precision_at_100": 0.03737, - "precision_at_1000": 0.00374, - "mrr_at_1": 0.61357, - "mrr_at_3": 0.69371, - "mrr_at_5": 0.70447, - "mrr_at_10": 0.7108, - "mrr_at_50": 0.71509, - "mrr_at_100": 0.71549, - "mrr_at_1000": 0.71549 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.74728, - "ndcg_at_3": 0.68141, - "ndcg_at_5": 0.67382, - "ndcg_at_10": 0.71906, - "ndcg_at_50": 0.78848, - "ndcg_at_100": 0.79195, - "ndcg_at_1000": 0.79195, - "map_at_1": 0.26706, - "map_at_3": 0.45841, - "map_at_5": 0.53584, - "map_at_10": 0.60978, - "map_at_50": 0.652, - "map_at_100": 0.65275, - "map_at_1000": 0.65275, - "recall_at_1": 0.26706, - "recall_at_3": 0.50288, - "recall_at_5": 0.62191, - "recall_at_10": 0.77009, - "recall_at_50": 0.95071, - "recall_at_100": 0.96491, - "recall_at_1000": 0.96491, - "precision_at_1": 0.74728, - "precision_at_3": 0.55707, - "precision_at_5": 0.45054, - "precision_at_10": 0.29973, - "precision_at_50": 0.0769, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.74457, - "mrr_at_3": 0.81658, - "mrr_at_5": 0.825, - "mrr_at_10": 0.82837, - "mrr_at_50": 0.8301, - "mrr_at_100": 0.83015, - "mrr_at_1000": 0.83015 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.59226, - "ndcg_at_3": 0.54923, - "ndcg_at_5": 0.55414, - "ndcg_at_10": 0.59792, - "ndcg_at_50": 0.65597, - "ndcg_at_100": 0.66353, - "ndcg_at_1000": 0.66353, - "map_at_1": 0.26878, - "map_at_3": 0.41432, - "map_at_5": 0.46324, - "map_at_10": 0.51013, - "map_at_50": 0.53636, - "map_at_100": 0.53764, - "map_at_1000": 0.53764, - "recall_at_1": 0.26878, - "recall_at_3": 0.46122, - "recall_at_5": 0.54616, - "recall_at_10": 0.65709, - "recall_at_50": 0.82857, - "recall_at_100": 0.86295, - "recall_at_1000": 0.86295, - "precision_at_1": 0.59226, - "precision_at_3": 0.40675, - "precision_at_5": 0.31131, - "precision_at_10": 0.20417, - "precision_at_50": 0.05369, - "precision_at_100": 0.02783, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.59226, - "mrr_at_3": 0.66071, - "mrr_at_5": 0.67366, - "mrr_at_10": 0.67932, - "mrr_at_50": 0.68375, - "mrr_at_100": 0.68401, - "mrr_at_1000": 0.68401 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.64225, - "ndcg_at_3": 0.60107, - "ndcg_at_5": 0.61537, - "ndcg_at_10": 0.66603, - "ndcg_at_50": 0.71345, - "ndcg_at_100": 0.71706, - "ndcg_at_1000": 0.71706, - "map_at_1": 0.30398, - "map_at_3": 0.47263, - "map_at_5": 0.52237, - "map_at_10": 0.56559, - "map_at_50": 0.58769, - "map_at_100": 0.58825, - "map_at_1000": 0.58825, - "recall_at_1": 0.30398, - "recall_at_3": 0.54008, - "recall_at_5": 0.63033, - "recall_at_10": 0.75511, - "recall_at_50": 0.89877, - "recall_at_100": 0.91525, - "recall_at_1000": 0.91525, - "precision_at_1": 0.64225, - "precision_at_3": 0.43192, - "precision_at_5": 0.32394, - "precision_at_10": 0.2031, - "precision_at_50": 0.04969, - "precision_at_100": 0.0253, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.64225, - "mrr_at_3": 0.73099, - "mrr_at_5": 0.73732, - "mrr_at_10": 0.74412, - "mrr_at_50": 0.74742, - "mrr_at_100": 0.74756, - "mrr_at_1000": 0.74756 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63305, - "ndcg_at_3": 0.57248, - "ndcg_at_5": 0.58856, - "ndcg_at_10": 0.63528, - "ndcg_at_50": 0.69413, - "ndcg_at_100": 0.69944, - "ndcg_at_1000": 0.69944, - "map_at_1": 0.30614, - "map_at_3": 0.45497, - "map_at_5": 0.50084, - "map_at_10": 0.53793, - "map_at_50": 0.56409, - "map_at_100": 0.56489, - "map_at_1000": 0.56489, - "recall_at_1": 0.30614, - "recall_at_3": 0.51035, - "recall_at_5": 0.60032, - "recall_at_10": 0.7148, - "recall_at_50": 0.89388, - "recall_at_100": 0.91945, - "recall_at_1000": 0.91945, - "precision_at_1": 0.63305, - "precision_at_3": 0.40243, - "precision_at_5": 0.30084, - "precision_at_10": 0.18768, - "precision_at_50": 0.04902, - "precision_at_100": 0.02513, - "precision_at_1000": 0.00251, - "mrr_at_1": 0.63305, - "mrr_at_3": 0.70261, - "mrr_at_5": 0.71522, - "mrr_at_10": 0.72209, - "mrr_at_50": 0.72576, - "mrr_at_100": 0.72592, - "mrr_at_1000": 0.72592 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.65054, - "ndcg_at_3": 0.59275, - "ndcg_at_5": 0.60426, - "ndcg_at_10": 0.65049, - "ndcg_at_50": 0.70256, - "ndcg_at_100": 0.70901, - "ndcg_at_1000": 0.70901, - "map_at_1": 0.35284, - "map_at_3": 0.48761, - "map_at_5": 0.52319, - "map_at_10": 0.55853, - "map_at_50": 0.58169, - "map_at_100": 0.58286, - "map_at_1000": 0.58286, - "recall_at_1": 0.35284, - "recall_at_3": 0.53365, - "recall_at_5": 0.60803, - "recall_at_10": 0.71437, - "recall_at_50": 0.86922, - "recall_at_100": 0.89724, - "recall_at_1000": 0.89724, - "precision_at_1": 0.65054, - "precision_at_3": 0.3871, - "precision_at_5": 0.28441, - "precision_at_10": 0.17957, - "precision_at_50": 0.04645, - "precision_at_100": 0.02411, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.65054, - "mrr_at_3": 0.72446, - "mrr_at_5": 0.73737, - "mrr_at_10": 0.74213, - "mrr_at_50": 0.74493, - "mrr_at_100": 0.74506, - "mrr_at_1000": 0.74506 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.46175, - "ndcg_at_3": 0.43253, - "ndcg_at_5": 0.45515, - "ndcg_at_10": 0.50535, - "ndcg_at_50": 0.58665, - "ndcg_at_100": 0.59512, - "ndcg_at_1000": 0.59512, - "map_at_1": 0.18721, - "map_at_3": 0.30745, - "map_at_5": 0.3559, - "map_at_10": 0.40125, - "map_at_50": 0.43454, - "map_at_100": 0.43605, - "map_at_1000": 0.43605, - "recall_at_1": 0.18721, - "recall_at_3": 0.36545, - "recall_at_5": 0.47244, - "recall_at_10": 0.5943, - "recall_at_50": 0.85048, - "recall_at_100": 0.88922, - "recall_at_1000": 0.88922, - "precision_at_1": 0.46175, - "precision_at_3": 0.33424, - "precision_at_5": 0.2765, - "precision_at_10": 0.18907, - "precision_at_50": 0.05421, - "precision_at_100": 0.0282, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.46175, - "mrr_at_3": 0.55237, - "mrr_at_5": 0.57177, - "mrr_at_10": 0.57831, - "mrr_at_50": 0.58623, - "mrr_at_100": 0.58651, - "mrr_at_1000": 0.58651 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.55405, - "ndcg_at_3": 0.54986, - "ndcg_at_5": 0.58683, - "ndcg_at_10": 0.63579, - "ndcg_at_50": 0.69369, - "ndcg_at_100": 0.69827, - "ndcg_at_1000": 0.69827, - "map_at_1": 0.29172, - "map_at_3": 0.44718, - "map_at_5": 0.49917, - "map_at_10": 0.53909, - "map_at_50": 0.56253, - "map_at_100": 0.56322, - "map_at_1000": 0.56322, - "recall_at_1": 0.29172, - "recall_at_3": 0.53587, - "recall_at_5": 0.64662, - "recall_at_10": 0.75868, - "recall_at_50": 0.95275, - "recall_at_100": 0.97581, - "recall_at_1000": 0.97581, - "precision_at_1": 0.55405, - "precision_at_3": 0.36396, - "precision_at_5": 0.28432, - "precision_at_10": 0.17865, - "precision_at_50": 0.0453, - "precision_at_100": 0.02311, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.55405, - "mrr_at_3": 0.65405, - "mrr_at_5": 0.66932, - "mrr_at_10": 0.67532, - "mrr_at_50": 0.68097, - "mrr_at_100": 0.68114, - "mrr_at_1000": 0.68114 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41411, - "ndcg_at_3": 0.44863, - "ndcg_at_5": 0.48536, - "ndcg_at_10": 0.53969, - "ndcg_at_50": 0.59469, - "ndcg_at_100": 0.6034, - "ndcg_at_1000": 0.6034, - "map_at_1": 0.25806, - "map_at_3": 0.37865, - "map_at_5": 0.41495, - "map_at_10": 0.44844, - "map_at_50": 0.46717, - "map_at_100": 0.46834, - "map_at_1000": 0.46834, - "recall_at_1": 0.25806, - "recall_at_3": 0.46642, - "recall_at_5": 0.56343, - "recall_at_10": 0.69828, - "recall_at_50": 0.89433, - "recall_at_100": 0.93967, - "recall_at_1000": 0.93967, - "precision_at_1": 0.41411, - "precision_at_3": 0.27607, - "precision_at_5": 0.2092, - "precision_at_10": 0.1365, - "precision_at_50": 0.03564, - "precision_at_100": 0.01862, - "precision_at_1000": 0.00186, - "mrr_at_1": 0.41411, - "mrr_at_3": 0.51176, - "mrr_at_5": 0.53032, - "mrr_at_10": 0.5433, - "mrr_at_50": 0.54999, - "mrr_at_100": 0.55037, - "mrr_at_1000": 0.55037 - }, - "gpt3": { - "ndcg_at_1": 0.34718, - "ndcg_at_3": 0.4342, - "ndcg_at_5": 0.48908, - "ndcg_at_10": 0.52795, - "ndcg_at_50": 0.57465, - "ndcg_at_100": 0.5855, - "ndcg_at_1000": 0.5855, - "map_at_1": 0.27819, - "map_at_3": 0.38464, - "map_at_5": 0.42124, - "map_at_10": 0.44087, - "map_at_50": 0.45506, - "map_at_100": 0.45629, - "map_at_1000": 0.45629, - "recall_at_1": 0.27819, - "recall_at_3": 0.49728, - "recall_at_5": 0.61672, - "recall_at_10": 0.72156, - "recall_at_50": 0.89936, - "recall_at_100": 0.96068, - "recall_at_1000": 0.96068, - "precision_at_1": 0.34718, - "precision_at_3": 0.22057, - "precision_at_5": 0.17092, - "precision_at_10": 0.10356, - "precision_at_50": 0.02671, - "precision_at_100": 0.01418, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.34718, - "mrr_at_3": 0.46241, - "mrr_at_5": 0.48764, - "mrr_at_10": 0.49936, - "mrr_at_50": 0.50647, - "mrr_at_100": 0.50716, - "mrr_at_1000": 0.50716 - }, - "llm-survey": { - "ndcg_at_1": 0.46218, - "ndcg_at_3": 0.43483, - "ndcg_at_5": 0.4483, - "ndcg_at_10": 0.49714, - "ndcg_at_50": 0.56049, - "ndcg_at_100": 0.57786, - "ndcg_at_1000": 0.57786, - "map_at_1": 0.21397, - "map_at_3": 0.33478, - "map_at_5": 0.37063, - "map_at_10": 0.40828, - "map_at_50": 0.43173, - "map_at_100": 0.43412, - "map_at_1000": 0.43412, - "recall_at_1": 0.21397, - "recall_at_3": 0.38895, - "recall_at_5": 0.4584, - "recall_at_10": 0.58458, - "recall_at_50": 0.79955, - "recall_at_100": 0.88877, - "recall_at_1000": 0.88877, - "precision_at_1": 0.46218, - "precision_at_3": 0.3212, - "precision_at_5": 0.24202, - "precision_at_10": 0.15938, - "precision_at_50": 0.04331, - "precision_at_100": 0.02345, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.46218, - "mrr_at_3": 0.53922, - "mrr_at_5": 0.54748, - "mrr_at_10": 0.55852, - "mrr_at_50": 0.5656, - "mrr_at_100": 0.56628, - "mrr_at_1000": 0.56628 - }, - "gemini": { - "ndcg_at_1": 0.38153, - "ndcg_at_3": 0.50583, - "ndcg_at_5": 0.5321, - "ndcg_at_10": 0.55607, - "ndcg_at_50": 0.60162, - "ndcg_at_100": 0.60619, - "ndcg_at_1000": 0.60619, - "map_at_1": 0.38153, - "map_at_3": 0.47523, - "map_at_5": 0.48969, - "map_at_10": 0.49993, - "map_at_50": 0.51023, - "map_at_100": 0.51063, - "map_at_1000": 0.51063, - "recall_at_1": 0.38153, - "recall_at_3": 0.59438, - "recall_at_5": 0.65863, - "recall_at_10": 0.73092, - "recall_at_50": 0.93173, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.38153, - "precision_at_3": 0.19813, - "precision_at_5": 0.13173, - "precision_at_10": 0.07309, - "precision_at_50": 0.01863, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.38153, - "mrr_at_3": 0.47523, - "mrr_at_5": 0.48969, - "mrr_at_10": 0.49993, - "mrr_at_50": 0.51023, - "mrr_at_100": 0.51063, - "mrr_at_1000": 0.51063 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.80727, - "ndcg_at_3": 0.74175, - "ndcg_at_5": 0.75602, - "ndcg_at_10": 0.80226, - "ndcg_at_50": 0.82898, - "ndcg_at_100": 0.83048, - "ndcg_at_1000": 0.83048, - "map_at_1": 0.33777, - "map_at_3": 0.55176, - "map_at_5": 0.64508, - "map_at_10": 0.71774, - "map_at_50": 0.73428, - "map_at_100": 0.73452, - "map_at_1000": 0.73452, - "recall_at_1": 0.33777, - "recall_at_3": 0.59489, - "recall_at_5": 0.73165, - "recall_at_10": 0.86843, - "recall_at_50": 0.94601, - "recall_at_100": 0.95363, - "recall_at_1000": 0.95363, - "precision_at_1": 0.80727, - "precision_at_3": 0.57269, - "precision_at_5": 0.46046, - "precision_at_10": 0.29328, - "precision_at_50": 0.06421, - "precision_at_100": 0.03226, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.80782, - "mrr_at_3": 0.85921, - "mrr_at_5": 0.8634, - "mrr_at_10": 0.86566, - "mrr_at_50": 0.86673, - "mrr_at_100": 0.8668, - "mrr_at_1000": 0.8668 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.37812, - "ndcg_at_3": 0.34141, - "ndcg_at_5": 0.34627, - "ndcg_at_10": 0.36319, - "ndcg_at_50": 0.387, - "ndcg_at_100": 0.39034, - "ndcg_at_1000": 0.39034, - "map_at_1": 0.15115, - "map_at_3": 0.23139, - "map_at_5": 0.26758, - "map_at_10": 0.29963, - "map_at_50": 0.3124, - "map_at_100": 0.31282, - "map_at_1000": 0.31282, - "recall_at_1": 0.15115, - "recall_at_3": 0.2617, - "recall_at_5": 0.32514, - "recall_at_10": 0.39333, - "recall_at_50": 0.46205, - "recall_at_100": 0.47893, - "recall_at_1000": 0.47893, - "precision_at_1": 0.37812, - "precision_at_3": 0.263, - "precision_at_5": 0.2151, - "precision_at_10": 0.14203, - "precision_at_50": 0.03398, - "precision_at_100": 0.01735, - "precision_at_1000": 0.00173, - "mrr_at_1": 0.37812, - "mrr_at_3": 0.42541, - "mrr_at_5": 0.43566, - "mrr_at_10": 0.43945, - "mrr_at_50": 0.4415, - "mrr_at_100": 0.44173, - "mrr_at_1000": 0.44173 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.59635, - "ndcg_at_3": 0.5628, - "ndcg_at_5": 0.56103, - "ndcg_at_10": 0.58609, - "ndcg_at_50": 0.62063, - "ndcg_at_100": 0.62324, - "ndcg_at_1000": 0.62324, - "map_at_1": 0.17993, - "map_at_3": 0.33231, - "map_at_5": 0.40974, - "map_at_10": 0.47759, - "map_at_50": 0.49986, - "map_at_100": 0.50036, - "map_at_1000": 0.50036, - "recall_at_1": 0.17993, - "recall_at_3": 0.37908, - "recall_at_5": 0.4994, - "recall_at_10": 0.62402, - "recall_at_50": 0.71156, - "recall_at_100": 0.72257, - "recall_at_1000": 0.72257, - "precision_at_1": 0.59635, - "precision_at_3": 0.49322, - "precision_at_5": 0.4198, - "precision_at_10": 0.28073, - "precision_at_50": 0.06535, - "precision_at_100": 0.03307, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.59635, - "mrr_at_3": 0.68818, - "mrr_at_5": 0.69949, - "mrr_at_10": 0.70391, - "mrr_at_50": 0.705, - "mrr_at_100": 0.70506, - "mrr_at_1000": 0.70506 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.58798, - "ndcg_at_3": 0.57378, - "ndcg_at_5": 0.57451, - "ndcg_at_10": 0.59433, - "ndcg_at_50": 0.62387, - "ndcg_at_100": 0.62566, - "ndcg_at_1000": 0.62566, - "map_at_1": 0.25294, - "map_at_3": 0.39935, - "map_at_5": 0.4595, - "map_at_10": 0.51417, - "map_at_50": 0.5333, - "map_at_100": 0.53361, - "map_at_1000": 0.53361, - "recall_at_1": 0.25294, - "recall_at_3": 0.44492, - "recall_at_5": 0.53636, - "recall_at_10": 0.63715, - "recall_at_50": 0.71476, - "recall_at_100": 0.72301, - "recall_at_1000": 0.72301, - "precision_at_1": 0.58798, - "precision_at_3": 0.43928, - "precision_at_5": 0.35378, - "precision_at_10": 0.23451, - "precision_at_50": 0.05456, - "precision_at_100": 0.02752, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.58798, - "mrr_at_3": 0.6615, - "mrr_at_5": 0.67043, - "mrr_at_10": 0.67474, - "mrr_at_50": 0.67643, - "mrr_at_100": 0.67649, - "mrr_at_1000": 0.67649 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.72907, - "ndcg_at_3": 0.68924, - "ndcg_at_5": 0.67811, - "ndcg_at_10": 0.69964, - "ndcg_at_50": 0.74241, - "ndcg_at_100": 0.74466, - "ndcg_at_1000": 0.74466, - "map_at_1": 0.19801, - "map_at_3": 0.38866, - "map_at_5": 0.493, - "map_at_10": 0.59971, - "map_at_50": 0.6321, - "map_at_100": 0.63267, - "map_at_1000": 0.63267, - "recall_at_1": 0.19801, - "recall_at_3": 0.42356, - "recall_at_5": 0.56301, - "recall_at_10": 0.73088, - "recall_at_50": 0.83499, - "recall_at_100": 0.84362, - "recall_at_1000": 0.84362, - "precision_at_1": 0.72907, - "precision_at_3": 0.61428, - "precision_at_5": 0.53119, - "precision_at_10": 0.37354, - "precision_at_50": 0.08693, - "precision_at_100": 0.04386, - "precision_at_1000": 0.00439, - "mrr_at_1": 0.72939, - "mrr_at_3": 0.79103, - "mrr_at_5": 0.79843, - "mrr_at_10": 0.80161, - "mrr_at_50": 0.80272, - "mrr_at_100": 0.80276, - "mrr_at_1000": 0.80276 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.65155, - "ndcg_at_3": 0.5856, - "ndcg_at_5": 0.55197, - "ndcg_at_10": 0.5637, - "ndcg_at_50": 0.61226, - "ndcg_at_100": 0.61588, - "ndcg_at_1000": 0.61588, - "map_at_1": 0.1353, - "map_at_3": 0.28208, - "map_at_5": 0.36153, - "map_at_10": 0.43765, - "map_at_50": 0.46912, - "map_at_100": 0.47, - "map_at_1000": 0.47, - "recall_at_1": 0.1353, - "recall_at_3": 0.3153, - "recall_at_5": 0.42998, - "recall_at_10": 0.5677, - "recall_at_50": 0.68338, - "recall_at_100": 0.69692, - "recall_at_1000": 0.69692, - "precision_at_1": 0.65155, - "precision_at_3": 0.54714, - "precision_at_5": 0.46521, - "precision_at_10": 0.31985, - "precision_at_50": 0.07816, - "precision_at_100": 0.03974, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.65155, - "mrr_at_3": 0.73115, - "mrr_at_5": 0.73958, - "mrr_at_10": 0.7442, - "mrr_at_50": 0.7453, - "mrr_at_100": 0.74535, - "mrr_at_1000": 0.74535 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.56591, - "ndcg_at_3": 0.52999, - "ndcg_at_5": 0.54551, - "ndcg_at_10": 0.58435, - "ndcg_at_50": 0.6202, - "ndcg_at_100": 0.62276, - "ndcg_at_1000": 0.62276, - "map_at_1": 0.24342, - "map_at_3": 0.39262, - "map_at_5": 0.44588, - "map_at_10": 0.48748, - "map_at_50": 0.50403, - "map_at_100": 0.50442, - "map_at_1000": 0.50442, - "recall_at_1": 0.24342, - "recall_at_3": 0.44903, - "recall_at_5": 0.55037, - "recall_at_10": 0.66057, - "recall_at_50": 0.77122, - "recall_at_100": 0.78378, - "recall_at_1000": 0.78378, - "precision_at_1": 0.56591, - "precision_at_3": 0.40539, - "precision_at_5": 0.31482, - "precision_at_10": 0.19842, - "precision_at_50": 0.04647, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.56591, - "mrr_at_3": 0.64646, - "mrr_at_5": 0.65952, - "mrr_at_10": 0.66616, - "mrr_at_50": 0.66913, - "mrr_at_100": 0.66922, - "mrr_at_1000": 0.66922 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.49418, - "ndcg_at_3": 0.44757, - "ndcg_at_5": 0.4315, - "ndcg_at_10": 0.45256, - "ndcg_at_50": 0.48214, - "ndcg_at_100": 0.48376, - "ndcg_at_1000": 0.48376, - "map_at_1": 0.12927, - "map_at_3": 0.23927, - "map_at_5": 0.29314, - "map_at_10": 0.34203, - "map_at_50": 0.35984, - "map_at_100": 0.36018, - "map_at_1000": 0.36018, - "recall_at_1": 0.12927, - "recall_at_3": 0.28004, - "recall_at_5": 0.36713, - "recall_at_10": 0.47034, - "recall_at_50": 0.54445, - "recall_at_100": 0.55078, - "recall_at_1000": 0.55078, - "precision_at_1": 0.49418, - "precision_at_3": 0.40425, - "precision_at_5": 0.33507, - "precision_at_10": 0.22438, - "precision_at_50": 0.0529, - "precision_at_100": 0.02671, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.49474, - "mrr_at_3": 0.59049, - "mrr_at_5": 0.60007, - "mrr_at_10": 0.60571, - "mrr_at_50": 0.60718, - "mrr_at_100": 0.6072, - "mrr_at_1000": 0.6072 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5142, - "ndcg_at_3": 0.53059, - "ndcg_at_5": 0.54386, - "ndcg_at_10": 0.56928, - "ndcg_at_50": 0.59234, - "ndcg_at_100": 0.59552, - "ndcg_at_1000": 0.59552, - "map_at_1": 0.32, - "map_at_3": 0.44932, - "map_at_5": 0.48524, - "map_at_10": 0.5143, - "map_at_50": 0.52532, - "map_at_100": 0.52571, - "map_at_1000": 0.52571, - "recall_at_1": 0.32, - "recall_at_3": 0.50174, - "recall_at_5": 0.56864, - "recall_at_10": 0.643, - "recall_at_50": 0.71931, - "recall_at_100": 0.737, - "recall_at_1000": 0.737, - "precision_at_1": 0.5142, - "precision_at_3": 0.32892, - "precision_at_5": 0.24265, - "precision_at_10": 0.14896, - "precision_at_50": 0.03391, - "precision_at_100": 0.0172, - "precision_at_1000": 0.00172, - "mrr_at_1": 0.5142, - "mrr_at_3": 0.57508, - "mrr_at_5": 0.58142, - "mrr_at_10": 0.58611, - "mrr_at_50": 0.58855, - "mrr_at_100": 0.58878, - "mrr_at_1000": 0.58878 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.757, - "ndcg_at_3": 0.68167, - "ndcg_at_5": 0.69678, - "ndcg_at_10": 0.72641, - "ndcg_at_50": 0.74247, - "ndcg_at_100": 0.74321, - "ndcg_at_1000": 0.74321, - "map_at_1": 0.39026, - "map_at_3": 0.54544, - "map_at_5": 0.60115, - "map_at_10": 0.63784, - "map_at_50": 0.64678, - "map_at_100": 0.64691, - "map_at_1000": 0.64691, - "recall_at_1": 0.39026, - "recall_at_3": 0.59979, - "recall_at_5": 0.69555, - "recall_at_10": 0.7761, - "recall_at_50": 0.82016, - "recall_at_100": 0.82356, - "recall_at_1000": 0.82356, - "precision_at_1": 0.757, - "precision_at_3": 0.46218, - "precision_at_5": 0.34783, - "precision_at_10": 0.20739, - "precision_at_50": 0.04487, - "precision_at_100": 0.02253, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.757, - "mrr_at_3": 0.81963, - "mrr_at_5": 0.82461, - "mrr_at_10": 0.8267, - "mrr_at_50": 0.82742, - "mrr_at_100": 0.82744, - "mrr_at_1000": 0.82744 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.70122, - "ndcg_at_3": 0.66481, - "ndcg_at_5": 0.67524, - "ndcg_at_10": 0.69637, - "ndcg_at_50": 0.70967, - "ndcg_at_100": 0.71089, - "ndcg_at_1000": 0.71089, - "map_at_1": 0.41061, - "map_at_3": 0.56254, - "map_at_5": 0.60142, - "map_at_10": 0.62608, - "map_at_50": 0.63249, - "map_at_100": 0.63269, - "map_at_1000": 0.63269, - "recall_at_1": 0.41061, - "recall_at_3": 0.61202, - "recall_at_5": 0.68088, - "recall_at_10": 0.73994, - "recall_at_50": 0.77982, - "recall_at_100": 0.78562, - "recall_at_1000": 0.78562, - "precision_at_1": 0.70122, - "precision_at_3": 0.41942, - "precision_at_5": 0.30087, - "precision_at_10": 0.17389, - "precision_at_50": 0.03748, - "precision_at_100": 0.01888, - "precision_at_1000": 0.00189, - "mrr_at_1": 0.70122, - "mrr_at_3": 0.76288, - "mrr_at_5": 0.76885, - "mrr_at_10": 0.77207, - "mrr_at_50": 0.77325, - "mrr_at_100": 0.7733, - "mrr_at_1000": 0.7733 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.52917, - "ndcg_at_3": 0.48368, - "ndcg_at_5": 0.49509, - "ndcg_at_10": 0.52544, - "ndcg_at_50": 0.54817, - "ndcg_at_100": 0.55001, - "ndcg_at_1000": 0.55001, - "map_at_1": 0.21783, - "map_at_3": 0.33893, - "map_at_5": 0.38931, - "map_at_10": 0.42715, - "map_at_50": 0.43818, - "map_at_100": 0.43842, - "map_at_1000": 0.43842, - "recall_at_1": 0.21783, - "recall_at_3": 0.3953, - "recall_at_5": 0.49217, - "recall_at_10": 0.58651, - "recall_at_50": 0.65386, - "recall_at_100": 0.66355, - "recall_at_1000": 0.66355, - "precision_at_1": 0.52917, - "precision_at_3": 0.37088, - "precision_at_5": 0.29451, - "precision_at_10": 0.18544, - "precision_at_50": 0.04176, - "precision_at_100": 0.02106, - "precision_at_1000": 0.00211, - "mrr_at_1": 0.52917, - "mrr_at_3": 0.61236, - "mrr_at_5": 0.62403, - "mrr_at_10": 0.62949, - "mrr_at_50": 0.631, - "mrr_at_100": 0.63108, - "mrr_at_1000": 0.63108 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.64765, - "ndcg_at_3": 0.59349, - "ndcg_at_5": 0.59996, - "ndcg_at_10": 0.62693, - "ndcg_at_50": 0.65508, - "ndcg_at_100": 0.65693, - "ndcg_at_1000": 0.65693, - "map_at_1": 0.25039, - "map_at_3": 0.40013, - "map_at_5": 0.46889, - "map_at_10": 0.52628, - "map_at_50": 0.5441, - "map_at_100": 0.54451, - "map_at_1000": 0.54451, - "recall_at_1": 0.25039, - "recall_at_3": 0.44773, - "recall_at_5": 0.56152, - "recall_at_10": 0.67297, - "recall_at_50": 0.7459, - "recall_at_100": 0.7533, - "recall_at_1000": 0.7533, - "precision_at_1": 0.64765, - "precision_at_3": 0.47138, - "precision_at_5": 0.38515, - "precision_at_10": 0.25092, - "precision_at_50": 0.05728, - "precision_at_100": 0.02895, - "precision_at_1000": 0.00289, - "mrr_at_1": 0.64765, - "mrr_at_3": 0.7241, - "mrr_at_5": 0.73361, - "mrr_at_10": 0.73742, - "mrr_at_50": 0.73857, - "mrr_at_100": 0.73862, - "mrr_at_1000": 0.73862 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5536, - "ndcg_at_3": 0.52757, - "ndcg_at_5": 0.52737, - "ndcg_at_10": 0.5459, - "ndcg_at_50": 0.56514, - "ndcg_at_100": 0.56631, - "ndcg_at_1000": 0.56631, - "map_at_1": 0.26086, - "map_at_3": 0.37937, - "map_at_5": 0.42436, - "map_at_10": 0.45965, - "map_at_50": 0.47001, - "map_at_100": 0.4702, - "map_at_1000": 0.4702, - "recall_at_1": 0.26086, - "recall_at_3": 0.42885, - "recall_at_5": 0.50929, - "recall_at_10": 0.5911, - "recall_at_50": 0.64455, - "recall_at_100": 0.64963, - "recall_at_1000": 0.64963, - "precision_at_1": 0.5536, - "precision_at_3": 0.37961, - "precision_at_5": 0.29537, - "precision_at_10": 0.1853, - "precision_at_50": 0.04153, - "precision_at_100": 0.02093, - "precision_at_1000": 0.00209, - "mrr_at_1": 0.5536, - "mrr_at_3": 0.62956, - "mrr_at_5": 0.64093, - "mrr_at_10": 0.64532, - "mrr_at_50": 0.64661, - "mrr_at_100": 0.64663, - "mrr_at_1000": 0.64663 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65029, - "ndcg_at_3": 0.61572, - "ndcg_at_5": 0.62042, - "ndcg_at_10": 0.67265, - "ndcg_at_50": 0.72318, - "ndcg_at_100": 0.72757, - "ndcg_at_1000": 0.72757, - "map_at_1": 0.21038, - "map_at_3": 0.40428, - "map_at_5": 0.48842, - "map_at_10": 0.56745, - "map_at_50": 0.59486, - "map_at_100": 0.59559, - "map_at_1000": 0.59559, - "recall_at_1": 0.21038, - "recall_at_3": 0.46059, - "recall_at_5": 0.59005, - "recall_at_10": 0.74766, - "recall_at_50": 0.8928, - "recall_at_100": 0.91397, - "recall_at_1000": 0.91397, - "precision_at_1": 0.65029, - "precision_at_3": 0.53179, - "precision_at_5": 0.43526, - "precision_at_10": 0.29277, - "precision_at_50": 0.06971, - "precision_at_100": 0.03535, - "precision_at_1000": 0.00353, - "mrr_at_1": 0.65029, - "mrr_at_3": 0.73748, - "mrr_at_5": 0.7473, - "mrr_at_10": 0.75267, - "mrr_at_50": 0.75473, - "mrr_at_100": 0.75498, - "mrr_at_1000": 0.75498 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.6997, - "ndcg_at_3": 0.64333, - "ndcg_at_5": 0.63787, - "ndcg_at_10": 0.69442, - "ndcg_at_50": 0.75062, - "ndcg_at_100": 0.75299, - "ndcg_at_1000": 0.75299, - "map_at_1": 0.20821, - "map_at_3": 0.39318, - "map_at_5": 0.48562, - "map_at_10": 0.58664, - "map_at_50": 0.62027, - "map_at_100": 0.62055, - "map_at_1000": 0.62055, - "recall_at_1": 0.20821, - "recall_at_3": 0.42748, - "recall_at_5": 0.56763, - "recall_at_10": 0.76566, - "recall_at_50": 0.91911, - "recall_at_100": 0.93196, - "recall_at_1000": 0.93196, - "precision_at_1": 0.6997, - "precision_at_3": 0.56657, - "precision_at_5": 0.47508, - "precision_at_10": 0.33453, - "precision_at_50": 0.08048, - "precision_at_100": 0.04045, - "precision_at_1000": 0.00405, - "mrr_at_1": 0.6997, - "mrr_at_3": 0.76426, - "mrr_at_5": 0.77553, - "mrr_at_10": 0.77994, - "mrr_at_50": 0.78161, - "mrr_at_100": 0.78179, - "mrr_at_1000": 0.78179 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.72485, - "ndcg_at_3": 0.67832, - "ndcg_at_5": 0.67794, - "ndcg_at_10": 0.71645, - "ndcg_at_50": 0.7634, - "ndcg_at_100": 0.76611, - "ndcg_at_1000": 0.76611, - "map_at_1": 0.2215, - "map_at_3": 0.42564, - "map_at_5": 0.52497, - "map_at_10": 0.61808, - "map_at_50": 0.64761, - "map_at_100": 0.64804, - "map_at_1000": 0.64804, - "recall_at_1": 0.2215, - "recall_at_3": 0.46699, - "recall_at_5": 0.60969, - "recall_at_10": 0.76986, - "recall_at_50": 0.89932, - "recall_at_100": 0.91266, - "recall_at_1000": 0.91266, - "precision_at_1": 0.72485, - "precision_at_3": 0.5858, - "precision_at_5": 0.49467, - "precision_at_10": 0.33728, - "precision_at_50": 0.07846, - "precision_at_100": 0.03956, - "precision_at_1000": 0.00396, - "mrr_at_1": 0.72485, - "mrr_at_3": 0.79191, - "mrr_at_5": 0.79901, - "mrr_at_10": 0.80207, - "mrr_at_50": 0.80457, - "mrr_at_100": 0.80466, - "mrr_at_1000": 0.80466 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.74336, - "ndcg_at_3": 0.67941, - "ndcg_at_5": 0.69001, - "ndcg_at_10": 0.74876, - "ndcg_at_50": 0.79627, - "ndcg_at_100": 0.79862, - "ndcg_at_1000": 0.79862, - "map_at_1": 0.2492, - "map_at_3": 0.46911, - "map_at_5": 0.56211, - "map_at_10": 0.64679, - "map_at_50": 0.67724, - "map_at_100": 0.67766, - "map_at_1000": 0.67766, - "recall_at_1": 0.2492, - "recall_at_3": 0.51042, - "recall_at_5": 0.65173, - "recall_at_10": 0.82325, - "recall_at_50": 0.95162, - "recall_at_100": 0.96241, - "recall_at_1000": 0.96241, - "precision_at_1": 0.74336, - "precision_at_3": 0.57522, - "precision_at_5": 0.47257, - "precision_at_10": 0.3174, - "precision_at_50": 0.07422, - "precision_at_100": 0.03737, - "precision_at_1000": 0.00374, - "mrr_at_1": 0.74336, - "mrr_at_3": 0.80777, - "mrr_at_5": 0.81706, - "mrr_at_10": 0.82186, - "mrr_at_50": 0.82348, - "mrr_at_100": 0.82354, - "mrr_at_1000": 0.82354 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.83424, - "ndcg_at_3": 0.76734, - "ndcg_at_5": 0.75805, - "ndcg_at_10": 0.80882, - "ndcg_at_50": 0.8478, - "ndcg_at_100": 0.85017, - "ndcg_at_1000": 0.85017, - "map_at_1": 0.3077, - "map_at_3": 0.5276, - "map_at_5": 0.62274, - "map_at_10": 0.71331, - "map_at_50": 0.74059, - "map_at_100": 0.74124, - "map_at_1000": 0.74124, - "recall_at_1": 0.3077, - "recall_at_3": 0.56756, - "recall_at_5": 0.69886, - "recall_at_10": 0.86017, - "recall_at_50": 0.95598, - "recall_at_100": 0.96491, - "recall_at_1000": 0.96491, - "precision_at_1": 0.83424, - "precision_at_3": 0.63043, - "precision_at_5": 0.50761, - "precision_at_10": 0.33832, - "precision_at_50": 0.07723, - "precision_at_100": 0.03899, - "precision_at_1000": 0.0039, - "mrr_at_1": 0.83424, - "mrr_at_3": 0.88813, - "mrr_at_5": 0.8899, - "mrr_at_10": 0.89298, - "mrr_at_50": 0.89344, - "mrr_at_100": 0.89344, - "mrr_at_1000": 0.89344 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.62798, - "ndcg_at_3": 0.57977, - "ndcg_at_5": 0.60191, - "ndcg_at_10": 0.65025, - "ndcg_at_50": 0.69007, - "ndcg_at_100": 0.69391, - "ndcg_at_1000": 0.69391, - "map_at_1": 0.26986, - "map_at_3": 0.43335, - "map_at_5": 0.50509, - "map_at_10": 0.55984, - "map_at_50": 0.58061, - "map_at_100": 0.58123, - "map_at_1000": 0.58123, - "recall_at_1": 0.26986, - "recall_at_3": 0.47882, - "recall_at_5": 0.59855, - "recall_at_10": 0.72673, - "recall_at_50": 0.84443, - "recall_at_100": 0.86295, - "recall_at_1000": 0.86295, - "precision_at_1": 0.62798, - "precision_at_3": 0.43849, - "precision_at_5": 0.35893, - "precision_at_10": 0.23065, - "precision_at_50": 0.0547, - "precision_at_100": 0.02783, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.62798, - "mrr_at_3": 0.69692, - "mrr_at_5": 0.70913, - "mrr_at_10": 0.71383, - "mrr_at_50": 0.71619, - "mrr_at_100": 0.71632, - "mrr_at_1000": 0.71632 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.72676, - "ndcg_at_3": 0.65852, - "ndcg_at_5": 0.68654, - "ndcg_at_10": 0.73414, - "ndcg_at_50": 0.76453, - "ndcg_at_100": 0.76558, - "ndcg_at_1000": 0.76558, - "map_at_1": 0.35182, - "map_at_3": 0.52833, - "map_at_5": 0.59253, - "map_at_10": 0.63823, - "map_at_50": 0.65419, - "map_at_100": 0.65434, - "map_at_1000": 0.65434, - "recall_at_1": 0.35182, - "recall_at_3": 0.57946, - "recall_at_5": 0.70307, - "recall_at_10": 0.81748, - "recall_at_50": 0.90976, - "recall_at_100": 0.91525, - "recall_at_1000": 0.91525, - "precision_at_1": 0.72676, - "precision_at_3": 0.4723, - "precision_at_5": 0.36394, - "precision_at_10": 0.22366, - "precision_at_50": 0.05037, - "precision_at_100": 0.0253, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.72958, - "mrr_at_3": 0.7939, - "mrr_at_5": 0.8046, - "mrr_at_10": 0.80819, - "mrr_at_50": 0.80972, - "mrr_at_100": 0.80975, - "mrr_at_1000": 0.80975 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.69468, - "ndcg_at_3": 0.64377, - "ndcg_at_5": 0.66947, - "ndcg_at_10": 0.72094, - "ndcg_at_50": 0.75122, - "ndcg_at_100": 0.75423, - "ndcg_at_1000": 0.75423, - "map_at_1": 0.3366, - "map_at_3": 0.51803, - "map_at_5": 0.57688, - "map_at_10": 0.6217, - "map_at_50": 0.63725, - "map_at_100": 0.63756, - "map_at_1000": 0.63756, - "recall_at_1": 0.3366, - "recall_at_3": 0.5812, - "recall_at_5": 0.69262, - "recall_at_10": 0.81552, - "recall_at_50": 0.90208, - "recall_at_100": 0.91945, - "recall_at_1000": 0.91945, - "precision_at_1": 0.69468, - "precision_at_3": 0.46312, - "precision_at_5": 0.35126, - "precision_at_10": 0.21737, - "precision_at_50": 0.0498, - "precision_at_100": 0.02513, - "precision_at_1000": 0.00251, - "mrr_at_1": 0.69748, - "mrr_at_3": 0.77451, - "mrr_at_5": 0.78613, - "mrr_at_10": 0.78844, - "mrr_at_50": 0.78973, - "mrr_at_100": 0.78994, - "mrr_at_1000": 0.78994 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.70968, - "ndcg_at_3": 0.66367, - "ndcg_at_5": 0.67542, - "ndcg_at_10": 0.71544, - "ndcg_at_50": 0.75411, - "ndcg_at_100": 0.75593, - "ndcg_at_1000": 0.75593, - "map_at_1": 0.37581, - "map_at_3": 0.54606, - "map_at_5": 0.59376, - "map_at_10": 0.62901, - "map_at_50": 0.64802, - "map_at_100": 0.64832, - "map_at_1000": 0.64832, - "recall_at_1": 0.37581, - "recall_at_3": 0.59443, - "recall_at_5": 0.68146, - "recall_at_10": 0.77369, - "recall_at_50": 0.88879, - "recall_at_100": 0.89724, - "recall_at_1000": 0.89724, - "precision_at_1": 0.70968, - "precision_at_3": 0.45072, - "precision_at_5": 0.33441, - "precision_at_10": 0.20161, - "precision_at_50": 0.0478, - "precision_at_100": 0.02411, - "precision_at_1000": 0.00241, - "mrr_at_1": 0.70968, - "mrr_at_3": 0.78495, - "mrr_at_5": 0.7922, - "mrr_at_10": 0.79605, - "mrr_at_50": 0.79803, - "mrr_at_100": 0.79807, - "mrr_at_1000": 0.79807 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.5847, - "ndcg_at_3": 0.53874, - "ndcg_at_5": 0.55559, - "ndcg_at_10": 0.60746, - "ndcg_at_50": 0.66703, - "ndcg_at_100": 0.67194, - "ndcg_at_1000": 0.67194, - "map_at_1": 0.25282, - "map_at_3": 0.39565, - "map_at_5": 0.45363, - "map_at_10": 0.50404, - "map_at_50": 0.53253, - "map_at_100": 0.5333, - "map_at_1000": 0.5333, - "recall_at_1": 0.25282, - "recall_at_3": 0.44436, - "recall_at_5": 0.55293, - "recall_at_10": 0.68382, - "recall_at_50": 0.86586, - "recall_at_100": 0.88922, - "recall_at_1000": 0.88922, - "precision_at_1": 0.5847, - "precision_at_3": 0.41257, - "precision_at_5": 0.3306, - "precision_at_10": 0.21776, - "precision_at_50": 0.05525, - "precision_at_100": 0.0282, - "precision_at_1000": 0.00282, - "mrr_at_1": 0.5847, - "mrr_at_3": 0.66803, - "mrr_at_5": 0.6821, - "mrr_at_10": 0.69051, - "mrr_at_50": 0.69391, - "mrr_at_100": 0.69411, - "mrr_at_1000": 0.69411 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.6027, - "ndcg_at_3": 0.60229, - "ndcg_at_5": 0.63993, - "ndcg_at_10": 0.69842, - "ndcg_at_50": 0.73829, - "ndcg_at_100": 0.73955, - "ndcg_at_1000": 0.73955, - "map_at_1": 0.33954, - "map_at_3": 0.50351, - "map_at_5": 0.55928, - "map_at_10": 0.60506, - "map_at_50": 0.62231, - "map_at_100": 0.62255, - "map_at_1000": 0.62255, - "recall_at_1": 0.33954, - "recall_at_3": 0.58088, - "recall_at_5": 0.69743, - "recall_at_10": 0.83766, - "recall_at_50": 0.96986, - "recall_at_100": 0.97581, - "recall_at_1000": 0.97581, - "precision_at_1": 0.6027, - "precision_at_3": 0.40541, - "precision_at_5": 0.31189, - "precision_at_10": 0.19595, - "precision_at_50": 0.04595, - "precision_at_100": 0.02311, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.6027, - "mrr_at_3": 0.69009, - "mrr_at_5": 0.70279, - "mrr_at_10": 0.71145, - "mrr_at_50": 0.71518, - "mrr_at_100": 0.71524, - "mrr_at_1000": 0.71524 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.53067, - "ndcg_at_3": 0.55081, - "ndcg_at_5": 0.59995, - "ndcg_at_10": 0.65332, - "ndcg_at_50": 0.6864, - "ndcg_at_100": 0.68981, - "ndcg_at_1000": 0.68981, - "map_at_1": 0.35299, - "map_at_3": 0.47707, - "map_at_5": 0.52875, - "map_at_10": 0.56814, - "map_at_50": 0.5802, - "map_at_100": 0.58055, - "map_at_1000": 0.58055, - "recall_at_1": 0.35299, - "recall_at_3": 0.55673, - "recall_at_5": 0.67478, - "recall_at_10": 0.79874, - "recall_at_50": 0.91973, - "recall_at_100": 0.93967, - "recall_at_1000": 0.93967, - "precision_at_1": 0.53067, - "precision_at_3": 0.3272, - "precision_at_5": 0.25644, - "precision_at_10": 0.16227, - "precision_at_50": 0.03675, - "precision_at_100": 0.01862, - "precision_at_1000": 0.00186, - "mrr_at_1": 0.53067, - "mrr_at_3": 0.62526, - "mrr_at_5": 0.64151, - "mrr_at_10": 0.64858, - "mrr_at_50": 0.65277, - "mrr_at_100": 0.653, - "mrr_at_1000": 0.653 - }, - "gpt3": { - "ndcg_at_1": 0.4184, - "ndcg_at_3": 0.51605, - "ndcg_at_5": 0.56482, - "ndcg_at_10": 0.60329, - "ndcg_at_50": 0.63788, - "ndcg_at_100": 0.64435, - "ndcg_at_1000": 0.64435, - "map_at_1": 0.33037, - "map_at_3": 0.46357, - "map_at_5": 0.49748, - "map_at_10": 0.51928, - "map_at_50": 0.53034, - "map_at_100": 0.53106, - "map_at_1000": 0.53106, - "recall_at_1": 0.33037, - "recall_at_3": 0.58333, - "recall_at_5": 0.69016, - "recall_at_10": 0.7908, - "recall_at_50": 0.92359, - "recall_at_100": 0.96068, - "recall_at_1000": 0.96068, - "precision_at_1": 0.4184, - "precision_at_3": 0.26805, - "precision_at_5": 0.19763, - "precision_at_10": 0.11691, - "precision_at_50": 0.02748, - "precision_at_100": 0.01418, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.4184, - "mrr_at_3": 0.54055, - "mrr_at_5": 0.55955, - "mrr_at_10": 0.56922, - "mrr_at_50": 0.57417, - "mrr_at_100": 0.57469, - "mrr_at_1000": 0.57469 - }, - "llm-survey": { - "ndcg_at_1": 0.54622, - "ndcg_at_3": 0.54495, - "ndcg_at_5": 0.56625, - "ndcg_at_10": 0.612, - "ndcg_at_50": 0.65612, - "ndcg_at_100": 0.66168, - "ndcg_at_1000": 0.66168, - "map_at_1": 0.25776, - "map_at_3": 0.42919, - "map_at_5": 0.47928, - "map_at_10": 0.52098, - "map_at_50": 0.54015, - "map_at_100": 0.54078, - "map_at_1000": 0.54078, - "recall_at_1": 0.25776, - "recall_at_3": 0.49957, - "recall_at_5": 0.59572, - "recall_at_10": 0.71215, - "recall_at_50": 0.85903, - "recall_at_100": 0.88877, - "recall_at_1000": 0.88877, - "precision_at_1": 0.54622, - "precision_at_3": 0.40243, - "precision_at_5": 0.30588, - "precision_at_10": 0.19188, - "precision_at_50": 0.04588, - "precision_at_100": 0.02345, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.54622, - "mrr_at_3": 0.63912, - "mrr_at_5": 0.65005, - "mrr_at_10": 0.65635, - "mrr_at_50": 0.66046, - "mrr_at_100": 0.66083, - "mrr_at_1000": 0.66083 - }, - "gemini": { - "ndcg_at_1": 0.48594, - "ndcg_at_3": 0.60518, - "ndcg_at_5": 0.63663, - "ndcg_at_10": 0.65357, - "ndcg_at_50": 0.68113, - "ndcg_at_100": 0.68445, - "ndcg_at_1000": 0.68445, - "map_at_1": 0.48594, - "map_at_3": 0.57564, - "map_at_5": 0.59311, - "map_at_10": 0.60013, - "map_at_50": 0.60641, - "map_at_100": 0.60672, - "map_at_1000": 0.60672, - "recall_at_1": 0.48594, - "recall_at_3": 0.69076, - "recall_at_5": 0.76707, - "recall_at_10": 0.81928, - "recall_at_50": 0.93976, - "recall_at_100": 0.95984, - "recall_at_1000": 0.95984, - "precision_at_1": 0.48594, - "precision_at_3": 0.23025, - "precision_at_5": 0.15341, - "precision_at_10": 0.08193, - "precision_at_50": 0.0188, - "precision_at_100": 0.0096, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.48594, - "mrr_at_3": 0.57564, - "mrr_at_5": 0.59311, - "mrr_at_10": 0.60013, - "mrr_at_50": 0.60643, - "mrr_at_100": 0.60675, - "mrr_at_1000": 0.60675 - } - } - } - } - } - }, - "[bge-m3](https://huggingface.co/BAAI/bge-m3)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.7087, - "ndcg_at_3": 0.64081, - "ndcg_at_5": 0.65079, - "ndcg_at_10": 0.70867, - "ndcg_at_50": 0.7552, - "ndcg_at_100": 0.75885, - "ndcg_at_1000": 0.75885, - "map_at_1": 0.28349, - "map_at_3": 0.45677, - "map_at_5": 0.53471, - "map_at_10": 0.6096, - "map_at_50": 0.63423, - "map_at_100": 0.63482, - "map_at_1000": 0.63482, - "recall_at_1": 0.28349, - "recall_at_3": 0.503, - "recall_at_5": 0.62669, - "recall_at_10": 0.79077, - "recall_at_50": 0.93125, - "recall_at_100": 0.94907, - "recall_at_1000": 0.94907, - "precision_at_1": 0.7087, - "precision_at_3": 0.50037, - "precision_at_5": 0.40419, - "precision_at_10": 0.27087, - "precision_at_50": 0.06387, - "precision_at_100": 0.03234, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.7087, - "mrr_at_3": 0.76863, - "mrr_at_5": 0.77568, - "mrr_at_10": 0.78146, - "mrr_at_50": 0.78404, - "mrr_at_100": 0.78416, - "mrr_at_1000": 0.78416 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.32315, - "ndcg_at_3": 0.32289, - "ndcg_at_5": 0.3331, - "ndcg_at_10": 0.35446, - "ndcg_at_50": 0.38904, - "ndcg_at_100": 0.39508, - "ndcg_at_1000": 0.39508, - "map_at_1": 0.11982, - "map_at_3": 0.20538, - "map_at_5": 0.24397, - "map_at_10": 0.27968, - "map_at_50": 0.29492, - "map_at_100": 0.29581, - "map_at_1000": 0.29581, - "recall_at_1": 0.11982, - "recall_at_3": 0.25548, - "recall_at_5": 0.33001, - "recall_at_10": 0.40839, - "recall_at_50": 0.51647, - "recall_at_100": 0.54393, - "recall_at_1000": 0.54393, - "precision_at_1": 0.32315, - "precision_at_3": 0.26282, - "precision_at_5": 0.21943, - "precision_at_10": 0.14842, - "precision_at_50": 0.03723, - "precision_at_100": 0.01941, - "precision_at_1000": 0.00194, - "mrr_at_1": 0.32315, - "mrr_at_3": 0.40172, - "mrr_at_5": 0.4153, - "mrr_at_10": 0.42045, - "mrr_at_50": 0.42358, - "mrr_at_100": 0.42386, - "mrr_at_1000": 0.42386 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.54744, - "ndcg_at_3": 0.50976, - "ndcg_at_5": 0.5057, - "ndcg_at_10": 0.53445, - "ndcg_at_50": 0.5892, - "ndcg_at_100": 0.5963, - "ndcg_at_1000": 0.5963, - "map_at_1": 0.15854, - "map_at_3": 0.28992, - "map_at_5": 0.35706, - "map_at_10": 0.42067, - "map_at_50": 0.44953, - "map_at_100": 0.45093, - "map_at_1000": 0.45093, - "recall_at_1": 0.15854, - "recall_at_3": 0.33761, - "recall_at_5": 0.44886, - "recall_at_10": 0.57534, - "recall_at_50": 0.72549, - "recall_at_100": 0.75401, - "recall_at_1000": 0.75401, - "precision_at_1": 0.54744, - "precision_at_3": 0.44824, - "precision_at_5": 0.37996, - "precision_at_10": 0.25993, - "precision_at_50": 0.06615, - "precision_at_100": 0.03423, - "precision_at_1000": 0.00342, - "mrr_at_1": 0.54744, - "mrr_at_3": 0.64565, - "mrr_at_5": 0.65891, - "mrr_at_10": 0.66391, - "mrr_at_50": 0.66629, - "mrr_at_100": 0.66647, - "mrr_at_1000": 0.66647 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.557, - "ndcg_at_3": 0.55652, - "ndcg_at_5": 0.56521, - "ndcg_at_10": 0.596, - "ndcg_at_50": 0.63097, - "ndcg_at_100": 0.63697, - "ndcg_at_1000": 0.63697, - "map_at_1": 0.22796, - "map_at_3": 0.37789, - "map_at_5": 0.44132, - "map_at_10": 0.5062, - "map_at_50": 0.52683, - "map_at_100": 0.52779, - "map_at_1000": 0.52779, - "recall_at_1": 0.22796, - "recall_at_3": 0.43532, - "recall_at_5": 0.5396, - "recall_at_10": 0.66156, - "recall_at_50": 0.75971, - "recall_at_100": 0.78843, - "recall_at_1000": 0.78843, - "precision_at_1": 0.557, - "precision_at_3": 0.4335, - "precision_at_5": 0.35836, - "precision_at_10": 0.24622, - "precision_at_50": 0.05812, - "precision_at_100": 0.02978, - "precision_at_1000": 0.00298, - "mrr_at_1": 0.557, - "mrr_at_3": 0.64694, - "mrr_at_5": 0.65825, - "mrr_at_10": 0.66305, - "mrr_at_50": 0.66486, - "mrr_at_100": 0.6651, - "mrr_at_1000": 0.6651 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.70628, - "ndcg_at_3": 0.66937, - "ndcg_at_5": 0.66349, - "ndcg_at_10": 0.69284, - "ndcg_at_50": 0.72953, - "ndcg_at_100": 0.73376, - "ndcg_at_1000": 0.73376, - "map_at_1": 0.18603, - "map_at_3": 0.3692, - "map_at_5": 0.47531, - "map_at_10": 0.59064, - "map_at_50": 0.61587, - "map_at_100": 0.6167, - "map_at_1000": 0.6167, - "recall_at_1": 0.18603, - "recall_at_3": 0.40723, - "recall_at_5": 0.55395, - "recall_at_10": 0.73477, - "recall_at_50": 0.83189, - "recall_at_100": 0.85061, - "recall_at_1000": 0.85061, - "precision_at_1": 0.70628, - "precision_at_3": 0.60226, - "precision_at_5": 0.52837, - "precision_at_10": 0.37966, - "precision_at_50": 0.08613, - "precision_at_100": 0.04369, - "precision_at_1000": 0.00437, - "mrr_at_1": 0.70707, - "mrr_at_3": 0.77562, - "mrr_at_5": 0.7834, - "mrr_at_10": 0.78696, - "mrr_at_50": 0.78821, - "mrr_at_100": 0.78833, - "mrr_at_1000": 0.78833 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.6158, - "ndcg_at_3": 0.56039, - "ndcg_at_5": 0.53132, - "ndcg_at_10": 0.54356, - "ndcg_at_50": 0.61482, - "ndcg_at_100": 0.62778, - "ndcg_at_1000": 0.62778, - "map_at_1": 0.13074, - "map_at_3": 0.26626, - "map_at_5": 0.34101, - "map_at_10": 0.41333, - "map_at_50": 0.45311, - "map_at_100": 0.45604, - "map_at_1000": 0.45604, - "recall_at_1": 0.13074, - "recall_at_3": 0.30153, - "recall_at_5": 0.41534, - "recall_at_10": 0.54837, - "recall_at_50": 0.72839, - "recall_at_100": 0.77778, - "recall_at_1000": 0.77778, - "precision_at_1": 0.6158, - "precision_at_3": 0.52348, - "precision_at_5": 0.44931, - "precision_at_10": 0.30993, - "precision_at_50": 0.08303, - "precision_at_100": 0.04382, - "precision_at_1000": 0.00438, - "mrr_at_1": 0.6158, - "mrr_at_3": 0.71025, - "mrr_at_5": 0.72126, - "mrr_at_10": 0.72544, - "mrr_at_50": 0.72734, - "mrr_at_100": 0.7275, - "mrr_at_1000": 0.7275 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.57528, - "ndcg_at_3": 0.54277, - "ndcg_at_5": 0.56979, - "ndcg_at_10": 0.60725, - "ndcg_at_50": 0.6306, - "ndcg_at_100": 0.63489, - "ndcg_at_1000": 0.63489, - "map_at_1": 0.23699, - "map_at_3": 0.39758, - "map_at_5": 0.46388, - "map_at_10": 0.50964, - "map_at_50": 0.52, - "map_at_100": 0.52062, - "map_at_1000": 0.52062, - "recall_at_1": 0.23699, - "recall_at_3": 0.46124, - "recall_at_5": 0.58494, - "recall_at_10": 0.68899, - "recall_at_50": 0.76555, - "recall_at_100": 0.787, - "recall_at_1000": 0.787, - "precision_at_1": 0.57528, - "precision_at_3": 0.42238, - "precision_at_5": 0.3413, - "precision_at_10": 0.21189, - "precision_at_50": 0.04671, - "precision_at_100": 0.02381, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.57586, - "mrr_at_3": 0.6653, - "mrr_at_5": 0.67813, - "mrr_at_10": 0.68227, - "mrr_at_50": 0.68416, - "mrr_at_100": 0.68432, - "mrr_at_1000": 0.68432 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.48643, - "ndcg_at_3": 0.43158, - "ndcg_at_5": 0.42114, - "ndcg_at_10": 0.44303, - "ndcg_at_50": 0.49532, - "ndcg_at_100": 0.50473, - "ndcg_at_1000": 0.50473, - "map_at_1": 0.12621, - "map_at_3": 0.22784, - "map_at_5": 0.28087, - "map_at_10": 0.32997, - "map_at_50": 0.35467, - "map_at_100": 0.35637, - "map_at_1000": 0.35637, - "recall_at_1": 0.12621, - "recall_at_3": 0.26857, - "recall_at_5": 0.36095, - "recall_at_10": 0.46303, - "recall_at_50": 0.60795, - "recall_at_100": 0.64606, - "recall_at_1000": 0.64606, - "precision_at_1": 0.48643, - "precision_at_3": 0.3891, - "precision_at_5": 0.32864, - "precision_at_10": 0.22233, - "precision_at_50": 0.05825, - "precision_at_100": 0.0306, - "precision_at_1000": 0.00306, - "mrr_at_1": 0.48643, - "mrr_at_3": 0.57941, - "mrr_at_5": 0.59473, - "mrr_at_10": 0.59992, - "mrr_at_50": 0.60308, - "mrr_at_100": 0.60331, - "mrr_at_1000": 0.60331 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.4858, - "ndcg_at_3": 0.50349, - "ndcg_at_5": 0.52243, - "ndcg_at_10": 0.54984, - "ndcg_at_50": 0.57321, - "ndcg_at_100": 0.57783, - "ndcg_at_1000": 0.57783, - "map_at_1": 0.28645, - "map_at_3": 0.41801, - "map_at_5": 0.45906, - "map_at_10": 0.49124, - "map_at_50": 0.50108, - "map_at_100": 0.50159, - "map_at_1000": 0.50159, - "recall_at_1": 0.28645, - "recall_at_3": 0.47781, - "recall_at_5": 0.55447, - "recall_at_10": 0.63352, - "recall_at_50": 0.71748, - "recall_at_100": 0.74381, - "recall_at_1000": 0.74381, - "precision_at_1": 0.4858, - "precision_at_3": 0.32366, - "precision_at_5": 0.24593, - "precision_at_10": 0.15218, - "precision_at_50": 0.03432, - "precision_at_100": 0.01753, - "precision_at_1000": 0.00175, - "mrr_at_1": 0.4858, - "mrr_at_3": 0.55195, - "mrr_at_5": 0.55885, - "mrr_at_10": 0.56322, - "mrr_at_50": 0.56597, - "mrr_at_100": 0.5663, - "mrr_at_1000": 0.5663 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.69803, - "ndcg_at_3": 0.62811, - "ndcg_at_5": 0.64721, - "ndcg_at_10": 0.68486, - "ndcg_at_50": 0.71433, - "ndcg_at_100": 0.71748, - "ndcg_at_1000": 0.71748, - "map_at_1": 0.35382, - "map_at_3": 0.4938, - "map_at_5": 0.54901, - "map_at_10": 0.58877, - "map_at_50": 0.60224, - "map_at_100": 0.60281, - "map_at_1000": 0.60281, - "recall_at_1": 0.35382, - "recall_at_3": 0.55001, - "recall_at_5": 0.65156, - "recall_at_10": 0.75186, - "recall_at_50": 0.84299, - "recall_at_100": 0.85694, - "recall_at_1000": 0.85694, - "precision_at_1": 0.69803, - "precision_at_3": 0.42764, - "precision_at_5": 0.32805, - "precision_at_10": 0.20137, - "precision_at_50": 0.04619, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.69803, - "mrr_at_3": 0.7702, - "mrr_at_5": 0.77824, - "mrr_at_10": 0.78166, - "mrr_at_50": 0.78329, - "mrr_at_100": 0.78336, - "mrr_at_1000": 0.78336 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.63578, - "ndcg_at_3": 0.6149, - "ndcg_at_5": 0.63131, - "ndcg_at_10": 0.66173, - "ndcg_at_50": 0.68295, - "ndcg_at_100": 0.68559, - "ndcg_at_1000": 0.68559, - "map_at_1": 0.36582, - "map_at_3": 0.50714, - "map_at_5": 0.54738, - "map_at_10": 0.57826, - "map_at_50": 0.58765, - "map_at_100": 0.58801, - "map_at_1000": 0.58801, - "recall_at_1": 0.36582, - "recall_at_3": 0.5745, - "recall_at_5": 0.65268, - "recall_at_10": 0.73171, - "recall_at_50": 0.79937, - "recall_at_100": 0.8129, - "recall_at_1000": 0.8129, - "precision_at_1": 0.63578, - "precision_at_3": 0.39529, - "precision_at_5": 0.28998, - "precision_at_10": 0.17354, - "precision_at_50": 0.03888, - "precision_at_100": 0.01972, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.63636, - "mrr_at_3": 0.72052, - "mrr_at_5": 0.72848, - "mrr_at_10": 0.73171, - "mrr_at_50": 0.73315, - "mrr_at_100": 0.73327, - "mrr_at_1000": 0.73327 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.50029, - "ndcg_at_3": 0.48006, - "ndcg_at_5": 0.49949, - "ndcg_at_10": 0.53472, - "ndcg_at_50": 0.56351, - "ndcg_at_100": 0.56666, - "ndcg_at_1000": 0.56666, - "map_at_1": 0.19645, - "map_at_3": 0.32899, - "map_at_5": 0.3881, - "map_at_10": 0.43282, - "map_at_50": 0.44548, - "map_at_100": 0.44597, - "map_at_1000": 0.44597, - "recall_at_1": 0.19645, - "recall_at_3": 0.394, - "recall_at_5": 0.50634, - "recall_at_10": 0.61328, - "recall_at_50": 0.70698, - "recall_at_100": 0.72196, - "recall_at_1000": 0.72196, - "precision_at_1": 0.50029, - "precision_at_3": 0.38417, - "precision_at_5": 0.31542, - "precision_at_10": 0.2, - "precision_at_50": 0.04542, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.50029, - "mrr_at_3": 0.59908, - "mrr_at_5": 0.61245, - "mrr_at_10": 0.61725, - "mrr_at_50": 0.61967, - "mrr_at_100": 0.61977, - "mrr_at_1000": 0.61977 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.55258, - "ndcg_at_3": 0.51834, - "ndcg_at_5": 0.52675, - "ndcg_at_10": 0.55906, - "ndcg_at_50": 0.61147, - "ndcg_at_100": 0.61964, - "ndcg_at_1000": 0.61964, - "map_at_1": 0.20778, - "map_at_3": 0.33998, - "map_at_5": 0.39829, - "map_at_10": 0.4534, - "map_at_50": 0.47955, - "map_at_100": 0.48108, - "map_at_1000": 0.48108, - "recall_at_1": 0.20778, - "recall_at_3": 0.39249, - "recall_at_5": 0.49815, - "recall_at_10": 0.61964, - "recall_at_50": 0.76764, - "recall_at_100": 0.80204, - "recall_at_1000": 0.80204, - "precision_at_1": 0.55258, - "precision_at_3": 0.41533, - "precision_at_5": 0.34486, - "precision_at_10": 0.23137, - "precision_at_50": 0.05914, - "precision_at_100": 0.0308, - "precision_at_1000": 0.00308, - "mrr_at_1": 0.55258, - "mrr_at_3": 0.64052, - "mrr_at_5": 0.65627, - "mrr_at_10": 0.66219, - "mrr_at_50": 0.66496, - "mrr_at_100": 0.66524, - "mrr_at_1000": 0.66524 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.55888, - "ndcg_at_3": 0.53596, - "ndcg_at_5": 0.54785, - "ndcg_at_10": 0.57833, - "ndcg_at_50": 0.61166, - "ndcg_at_100": 0.61634, - "ndcg_at_1000": 0.61634, - "map_at_1": 0.25154, - "map_at_3": 0.37606, - "map_at_5": 0.43066, - "map_at_10": 0.477, - "map_at_50": 0.49387, - "map_at_100": 0.49465, - "map_at_1000": 0.49465, - "recall_at_1": 0.25154, - "recall_at_3": 0.44061, - "recall_at_5": 0.54464, - "recall_at_10": 0.64807, - "recall_at_50": 0.74429, - "recall_at_100": 0.76576, - "recall_at_1000": 0.76576, - "precision_at_1": 0.55888, - "precision_at_3": 0.39426, - "precision_at_5": 0.31939, - "precision_at_10": 0.2082, - "precision_at_50": 0.04915, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.55829, - "mrr_at_3": 0.65436, - "mrr_at_5": 0.66725, - "mrr_at_10": 0.67146, - "mrr_at_50": 0.67357, - "mrr_at_100": 0.67373, - "mrr_at_1000": 0.67373 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.71387, - "ndcg_at_3": 0.65109, - "ndcg_at_5": 0.662, - "ndcg_at_10": 0.71742, - "ndcg_at_50": 0.75232, - "ndcg_at_100": 0.75679, - "ndcg_at_1000": 0.75679, - "map_at_1": 0.22456, - "map_at_3": 0.42904, - "map_at_5": 0.52832, - "map_at_10": 0.61762, - "map_at_50": 0.63401, - "map_at_100": 0.6347, - "map_at_1000": 0.6347, - "recall_at_1": 0.22456, - "recall_at_3": 0.47199, - "recall_at_5": 0.62367, - "recall_at_10": 0.79307, - "recall_at_50": 0.90588, - "recall_at_100": 0.92765, - "recall_at_1000": 0.92765, - "precision_at_1": 0.71387, - "precision_at_3": 0.56262, - "precision_at_5": 0.47457, - "precision_at_10": 0.31763, - "precision_at_50": 0.07029, - "precision_at_100": 0.03566, - "precision_at_1000": 0.00357, - "mrr_at_1": 0.71387, - "mrr_at_3": 0.77505, - "mrr_at_5": 0.78386, - "mrr_at_10": 0.7884, - "mrr_at_50": 0.79094, - "mrr_at_100": 0.79121, - "mrr_at_1000": 0.79121 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.6997, - "ndcg_at_3": 0.63763, - "ndcg_at_5": 0.63837, - "ndcg_at_10": 0.70583, - "ndcg_at_50": 0.74394, - "ndcg_at_100": 0.74932, - "ndcg_at_1000": 0.74932, - "map_at_1": 0.20236, - "map_at_3": 0.38194, - "map_at_5": 0.48206, - "map_at_10": 0.60066, - "map_at_50": 0.62318, - "map_at_100": 0.624, - "map_at_1000": 0.624, - "recall_at_1": 0.20236, - "recall_at_3": 0.41768, - "recall_at_5": 0.56462, - "recall_at_10": 0.77914, - "recall_at_50": 0.89034, - "recall_at_100": 0.91717, - "recall_at_1000": 0.91717, - "precision_at_1": 0.6997, - "precision_at_3": 0.56256, - "precision_at_5": 0.48529, - "precision_at_10": 0.35435, - "precision_at_50": 0.07958, - "precision_at_100": 0.04036, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.6997, - "mrr_at_3": 0.76827, - "mrr_at_5": 0.77563, - "mrr_at_10": 0.78105, - "mrr_at_50": 0.78218, - "mrr_at_100": 0.78242, - "mrr_at_1000": 0.78242 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.69231, - "ndcg_at_3": 0.65228, - "ndcg_at_5": 0.65001, - "ndcg_at_10": 0.69821, - "ndcg_at_50": 0.73651, - "ndcg_at_100": 0.74121, - "ndcg_at_1000": 0.74121, - "map_at_1": 0.20313, - "map_at_3": 0.39755, - "map_at_5": 0.49912, - "map_at_10": 0.60475, - "map_at_50": 0.62482, - "map_at_100": 0.62551, - "map_at_1000": 0.62551, - "recall_at_1": 0.20313, - "recall_at_3": 0.43664, - "recall_at_5": 0.57995, - "recall_at_10": 0.75655, - "recall_at_50": 0.87524, - "recall_at_100": 0.89912, - "recall_at_1000": 0.89912, - "precision_at_1": 0.69231, - "precision_at_3": 0.57791, - "precision_at_5": 0.49053, - "precision_at_10": 0.34438, - "precision_at_50": 0.0771, - "precision_at_100": 0.03908, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.69231, - "mrr_at_3": 0.75394, - "mrr_at_5": 0.76075, - "mrr_at_10": 0.7665, - "mrr_at_50": 0.76907, - "mrr_at_100": 0.76929, - "mrr_at_1000": 0.76929 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.73746, - "ndcg_at_3": 0.68894, - "ndcg_at_5": 0.7, - "ndcg_at_10": 0.7618, - "ndcg_at_50": 0.7974, - "ndcg_at_100": 0.80046, - "ndcg_at_1000": 0.80046, - "map_at_1": 0.24707, - "map_at_3": 0.47062, - "map_at_5": 0.56718, - "map_at_10": 0.66073, - "map_at_50": 0.68175, - "map_at_100": 0.68234, - "map_at_1000": 0.68234, - "recall_at_1": 0.24707, - "recall_at_3": 0.51452, - "recall_at_5": 0.65928, - "recall_at_10": 0.84024, - "recall_at_50": 0.94222, - "recall_at_100": 0.95626, - "recall_at_1000": 0.95626, - "precision_at_1": 0.73746, - "precision_at_3": 0.59194, - "precision_at_5": 0.48791, - "precision_at_10": 0.3292, - "precision_at_50": 0.07357, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.73746, - "mrr_at_3": 0.81416, - "mrr_at_5": 0.82257, - "mrr_at_10": 0.82592, - "mrr_at_50": 0.82717, - "mrr_at_100": 0.82722, - "mrr_at_1000": 0.82722 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.81793, - "ndcg_at_3": 0.75124, - "ndcg_at_5": 0.75026, - "ndcg_at_10": 0.80678, - "ndcg_at_50": 0.84134, - "ndcg_at_100": 0.84439, - "ndcg_at_1000": 0.84439, - "map_at_1": 0.29376, - "map_at_3": 0.51139, - "map_at_5": 0.61277, - "map_at_10": 0.71359, - "map_at_50": 0.73417, - "map_at_100": 0.73473, - "map_at_1000": 0.73473, - "recall_at_1": 0.29376, - "recall_at_3": 0.55124, - "recall_at_5": 0.69384, - "recall_at_10": 0.8611, - "recall_at_50": 0.95869, - "recall_at_100": 0.97235, - "recall_at_1000": 0.97235, - "precision_at_1": 0.81793, - "precision_at_3": 0.62047, - "precision_at_5": 0.51304, - "precision_at_10": 0.35, - "precision_at_50": 0.07772, - "precision_at_100": 0.03927, - "precision_at_1000": 0.00393, - "mrr_at_1": 0.81793, - "mrr_at_3": 0.87726, - "mrr_at_5": 0.87957, - "mrr_at_10": 0.88064, - "mrr_at_50": 0.88189, - "mrr_at_100": 0.88198, - "mrr_at_1000": 0.88198 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.64881, - "ndcg_at_3": 0.60512, - "ndcg_at_5": 0.61393, - "ndcg_at_10": 0.6616, - "ndcg_at_50": 0.69221, - "ndcg_at_100": 0.6972, - "ndcg_at_1000": 0.6972, - "map_at_1": 0.27121, - "map_at_3": 0.45125, - "map_at_5": 0.51791, - "map_at_10": 0.57787, - "map_at_50": 0.59049, - "map_at_100": 0.59136, - "map_at_1000": 0.59136, - "recall_at_1": 0.27121, - "recall_at_3": 0.4958, - "recall_at_5": 0.59657, - "recall_at_10": 0.72302, - "recall_at_50": 0.82937, - "recall_at_100": 0.85298, - "recall_at_1000": 0.85298, - "precision_at_1": 0.64881, - "precision_at_3": 0.46825, - "precision_at_5": 0.37143, - "precision_at_10": 0.24226, - "precision_at_50": 0.05411, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.64881, - "mrr_at_3": 0.71726, - "mrr_at_5": 0.72202, - "mrr_at_10": 0.72725, - "mrr_at_50": 0.7297, - "mrr_at_100": 0.72988, - "mrr_at_1000": 0.72988 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.69859, - "ndcg_at_3": 0.63361, - "ndcg_at_5": 0.66779, - "ndcg_at_10": 0.73288, - "ndcg_at_50": 0.76101, - "ndcg_at_100": 0.76403, - "ndcg_at_1000": 0.76403, - "map_at_1": 0.33591, - "map_at_3": 0.49845, - "map_at_5": 0.56568, - "map_at_10": 0.62575, - "map_at_50": 0.6398, - "map_at_100": 0.6402, - "map_at_1000": 0.6402, - "recall_at_1": 0.33591, - "recall_at_3": 0.56351, - "recall_at_5": 0.69144, - "recall_at_10": 0.84083, - "recall_at_50": 0.92915, - "recall_at_100": 0.94563, - "recall_at_1000": 0.94563, - "precision_at_1": 0.69859, - "precision_at_3": 0.44977, - "precision_at_5": 0.35606, - "precision_at_10": 0.23183, - "precision_at_50": 0.05172, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.69859, - "mrr_at_3": 0.78263, - "mrr_at_5": 0.79263, - "mrr_at_10": 0.79657, - "mrr_at_50": 0.79777, - "mrr_at_100": 0.79791, - "mrr_at_1000": 0.79791 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.69468, - "ndcg_at_3": 0.62854, - "ndcg_at_5": 0.66938, - "ndcg_at_10": 0.73583, - "ndcg_at_50": 0.75887, - "ndcg_at_100": 0.76245, - "ndcg_at_1000": 0.76245, - "map_at_1": 0.33711, - "map_at_3": 0.50084, - "map_at_5": 0.57349, - "map_at_10": 0.6336, - "map_at_50": 0.6446, - "map_at_100": 0.64503, - "map_at_1000": 0.64503, - "recall_at_1": 0.33711, - "recall_at_3": 0.55747, - "recall_at_5": 0.69227, - "recall_at_10": 0.84611, - "recall_at_50": 0.92098, - "recall_at_100": 0.94029, - "recall_at_1000": 0.94029, - "precision_at_1": 0.69468, - "precision_at_3": 0.44818, - "precision_at_5": 0.36022, - "precision_at_10": 0.23193, - "precision_at_50": 0.05042, - "precision_at_100": 0.02555, - "precision_at_1000": 0.00255, - "mrr_at_1": 0.69468, - "mrr_at_3": 0.77171, - "mrr_at_5": 0.78375, - "mrr_at_10": 0.78746, - "mrr_at_50": 0.78867, - "mrr_at_100": 0.78887, - "mrr_at_1000": 0.78887 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.73387, - "ndcg_at_3": 0.66851, - "ndcg_at_5": 0.68825, - "ndcg_at_10": 0.74496, - "ndcg_at_50": 0.76447, - "ndcg_at_100": 0.76797, - "ndcg_at_1000": 0.76797, - "map_at_1": 0.37435, - "map_at_3": 0.54098, - "map_at_5": 0.59874, - "map_at_10": 0.65173, - "map_at_50": 0.66068, - "map_at_100": 0.66122, - "map_at_1000": 0.66122, - "recall_at_1": 0.37435, - "recall_at_3": 0.58778, - "recall_at_5": 0.69579, - "recall_at_10": 0.82325, - "recall_at_50": 0.88454, - "recall_at_100": 0.90235, - "recall_at_1000": 0.90235, - "precision_at_1": 0.73387, - "precision_at_3": 0.45878, - "precision_at_5": 0.35, - "precision_at_10": 0.22204, - "precision_at_50": 0.04796, - "precision_at_100": 0.02433, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.73387, - "mrr_at_3": 0.80152, - "mrr_at_5": 0.8116, - "mrr_at_10": 0.81366, - "mrr_at_50": 0.81504, - "mrr_at_100": 0.81514, - "mrr_at_1000": 0.81514 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.62295, - "ndcg_at_3": 0.56638, - "ndcg_at_5": 0.59437, - "ndcg_at_10": 0.66615, - "ndcg_at_50": 0.69555, - "ndcg_at_100": 0.70291, - "ndcg_at_1000": 0.70291, - "map_at_1": 0.25184, - "map_at_3": 0.41103, - "map_at_5": 0.48372, - "map_at_10": 0.55782, - "map_at_50": 0.57042, - "map_at_100": 0.57148, - "map_at_1000": 0.57148, - "recall_at_1": 0.25184, - "recall_at_3": 0.47048, - "recall_at_5": 0.60465, - "recall_at_10": 0.77268, - "recall_at_50": 0.87315, - "recall_at_100": 0.90892, - "recall_at_1000": 0.90892, - "precision_at_1": 0.62295, - "precision_at_3": 0.44353, - "precision_at_5": 0.36448, - "precision_at_10": 0.25164, - "precision_at_50": 0.05596, - "precision_at_100": 0.0288, - "precision_at_1000": 0.00288, - "mrr_at_1": 0.62295, - "mrr_at_3": 0.70719, - "mrr_at_5": 0.71976, - "mrr_at_10": 0.72443, - "mrr_at_50": 0.72638, - "mrr_at_100": 0.72676, - "mrr_at_1000": 0.72676 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.60541, - "ndcg_at_3": 0.60919, - "ndcg_at_5": 0.65169, - "ndcg_at_10": 0.71828, - "ndcg_at_50": 0.74467, - "ndcg_at_100": 0.74896, - "ndcg_at_1000": 0.74896, - "map_at_1": 0.33794, - "map_at_3": 0.50716, - "map_at_5": 0.56717, - "map_at_10": 0.62328, - "map_at_50": 0.63346, - "map_at_100": 0.6341, - "map_at_1000": 0.6341, - "recall_at_1": 0.33794, - "recall_at_3": 0.58272, - "recall_at_5": 0.71122, - "recall_at_10": 0.86247, - "recall_at_50": 0.9582, - "recall_at_100": 0.97991, - "recall_at_1000": 0.97991, - "precision_at_1": 0.60541, - "precision_at_3": 0.40901, - "precision_at_5": 0.32, - "precision_at_10": 0.20919, - "precision_at_50": 0.04573, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.60541, - "mrr_at_3": 0.70225, - "mrr_at_5": 0.71766, - "mrr_at_10": 0.72304, - "mrr_at_50": 0.72561, - "mrr_at_100": 0.72577, - "mrr_at_1000": 0.72577 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.46933, - "ndcg_at_3": 0.5135, - "ndcg_at_5": 0.55537, - "ndcg_at_10": 0.62027, - "ndcg_at_50": 0.6584, - "ndcg_at_100": 0.6627, - "ndcg_at_1000": 0.6627, - "map_at_1": 0.30867, - "map_at_3": 0.44033, - "map_at_5": 0.48018, - "map_at_10": 0.52512, - "map_at_50": 0.53961, - "map_at_100": 0.5401, - "map_at_1000": 0.5401, - "recall_at_1": 0.30867, - "recall_at_3": 0.53043, - "recall_at_5": 0.6358, - "recall_at_10": 0.79087, - "recall_at_50": 0.92791, - "recall_at_100": 0.95245, - "recall_at_1000": 0.95245, - "precision_at_1": 0.46933, - "precision_at_3": 0.31391, - "precision_at_5": 0.23865, - "precision_at_10": 0.1589, - "precision_at_50": 0.03687, - "precision_at_100": 0.01877, - "precision_at_1000": 0.00188, - "mrr_at_1": 0.46933, - "mrr_at_3": 0.57669, - "mrr_at_5": 0.59801, - "mrr_at_10": 0.60801, - "mrr_at_50": 0.61257, - "mrr_at_100": 0.61285, - "mrr_at_1000": 0.61285 - }, - "gpt3": { - "ndcg_at_1": 0.4362, - "ndcg_at_3": 0.50006, - "ndcg_at_5": 0.54378, - "ndcg_at_10": 0.58475, - "ndcg_at_50": 0.62549, - "ndcg_at_100": 0.63495, - "ndcg_at_1000": 0.63495, - "map_at_1": 0.34446, - "map_at_3": 0.45343, - "map_at_5": 0.48491, - "map_at_10": 0.50841, - "map_at_50": 0.51948, - "map_at_100": 0.52046, - "map_at_1000": 0.52046, - "recall_at_1": 0.34446, - "recall_at_3": 0.54773, - "recall_at_5": 0.64243, - "recall_at_10": 0.74802, - "recall_at_50": 0.9132, - "recall_at_100": 0.9686, - "recall_at_1000": 0.9686, - "precision_at_1": 0.4362, - "precision_at_3": 0.25124, - "precision_at_5": 0.18457, - "precision_at_10": 0.11128, - "precision_at_50": 0.02712, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.43323, - "mrr_at_3": 0.53314, - "mrr_at_5": 0.55094, - "mrr_at_10": 0.56102, - "mrr_at_50": 0.56764, - "mrr_at_100": 0.56829, - "mrr_at_1000": 0.56829 - }, - "llm-survey": { - "ndcg_at_1": 0.56583, - "ndcg_at_3": 0.52402, - "ndcg_at_5": 0.5676, - "ndcg_at_10": 0.61495, - "ndcg_at_50": 0.65254, - "ndcg_at_100": 0.66109, - "ndcg_at_1000": 0.66109, - "map_at_1": 0.25968, - "map_at_3": 0.41299, - "map_at_5": 0.47584, - "map_at_10": 0.52164, - "map_at_50": 0.53606, - "map_at_100": 0.5372, - "map_at_1000": 0.5372, - "recall_at_1": 0.25968, - "recall_at_3": 0.46715, - "recall_at_5": 0.60246, - "recall_at_10": 0.71614, - "recall_at_50": 0.85179, - "recall_at_100": 0.89631, - "recall_at_1000": 0.89631, - "precision_at_1": 0.56583, - "precision_at_3": 0.38375, - "precision_at_5": 0.31092, - "precision_at_10": 0.1986, - "precision_at_50": 0.04577, - "precision_at_100": 0.02373, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.56583, - "mrr_at_3": 0.64006, - "mrr_at_5": 0.65826, - "mrr_at_10": 0.66262, - "mrr_at_50": 0.66651, - "mrr_at_100": 0.66693, - "mrr_at_1000": 0.66693 - }, - "gemini": { - "ndcg_at_1": 0.46586, - "ndcg_at_3": 0.59452, - "ndcg_at_5": 0.61231, - "ndcg_at_10": 0.64081, - "ndcg_at_50": 0.66488, - "ndcg_at_100": 0.67016, - "ndcg_at_1000": 0.67016, - "map_at_1": 0.46586, - "map_at_3": 0.56024, - "map_at_5": 0.56988, - "map_at_10": 0.58161, - "map_at_50": 0.58681, - "map_at_100": 0.5873, - "map_at_1000": 0.5873, - "recall_at_1": 0.46586, - "recall_at_3": 0.69478, - "recall_at_5": 0.73896, - "recall_at_10": 0.82731, - "recall_at_50": 0.93574, - "recall_at_100": 0.96787, - "recall_at_1000": 0.96787, - "precision_at_1": 0.46586, - "precision_at_3": 0.23159, - "precision_at_5": 0.14779, - "precision_at_10": 0.08273, - "precision_at_50": 0.01871, - "precision_at_100": 0.00968, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.46586, - "mrr_at_3": 0.56024, - "mrr_at_5": 0.56988, - "mrr_at_10": 0.58165, - "mrr_at_50": 0.58687, - "mrr_at_100": 0.58736, - "mrr_at_1000": 0.58736 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.80672, - "ndcg_at_3": 0.73469, - "ndcg_at_5": 0.74243, - "ndcg_at_10": 0.78656, - "ndcg_at_50": 0.82163, - "ndcg_at_100": 0.82258, - "ndcg_at_1000": 0.82258, - "map_at_1": 0.33844, - "map_at_3": 0.54813, - "map_at_5": 0.6327, - "map_at_10": 0.7006, - "map_at_50": 0.72229, - "map_at_100": 0.72249, - "map_at_1000": 0.72249, - "recall_at_1": 0.33844, - "recall_at_3": 0.58722, - "recall_at_5": 0.71311, - "recall_at_10": 0.84668, - "recall_at_50": 0.94477, - "recall_at_100": 0.94907, - "recall_at_1000": 0.94907, - "precision_at_1": 0.80672, - "precision_at_3": 0.56718, - "precision_at_5": 0.44868, - "precision_at_10": 0.28464, - "precision_at_50": 0.06444, - "precision_at_100": 0.03234, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.80672, - "mrr_at_3": 0.85178, - "mrr_at_5": 0.85599, - "mrr_at_10": 0.85882, - "mrr_at_50": 0.8604, - "mrr_at_100": 0.86042, - "mrr_at_1000": 0.86042 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.43309, - "ndcg_at_3": 0.39616, - "ndcg_at_5": 0.39698, - "ndcg_at_10": 0.41898, - "ndcg_at_50": 0.44802, - "ndcg_at_100": 0.45066, - "ndcg_at_1000": 0.45066, - "map_at_1": 0.18373, - "map_at_3": 0.27819, - "map_at_5": 0.31464, - "map_at_10": 0.34936, - "map_at_50": 0.36482, - "map_at_100": 0.36522, - "map_at_1000": 0.36522, - "recall_at_1": 0.18373, - "recall_at_3": 0.31268, - "recall_at_5": 0.37505, - "recall_at_10": 0.45205, - "recall_at_50": 0.53141, - "recall_at_100": 0.54393, - "recall_at_1000": 0.54393, - "precision_at_1": 0.43309, - "precision_at_3": 0.29798, - "precision_at_5": 0.23409, - "precision_at_10": 0.15569, - "precision_at_50": 0.03819, - "precision_at_100": 0.01941, - "precision_at_1000": 0.00194, - "mrr_at_1": 0.43365, - "mrr_at_3": 0.48714, - "mrr_at_5": 0.49608, - "mrr_at_10": 0.50125, - "mrr_at_50": 0.50367, - "mrr_at_100": 0.50376, - "mrr_at_1000": 0.50376 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.62876, - "ndcg_at_3": 0.57135, - "ndcg_at_5": 0.56219, - "ndcg_at_10": 0.59074, - "ndcg_at_50": 0.63679, - "ndcg_at_100": 0.63972, - "ndcg_at_1000": 0.63972, - "map_at_1": 0.19271, - "map_at_3": 0.34081, - "map_at_5": 0.41378, - "map_at_10": 0.48122, - "map_at_50": 0.50961, - "map_at_100": 0.5102, - "map_at_1000": 0.5102, - "recall_at_1": 0.19271, - "recall_at_3": 0.37661, - "recall_at_5": 0.49067, - "recall_at_10": 0.62425, - "recall_at_50": 0.74168, - "recall_at_100": 0.75401, - "recall_at_1000": 0.75401, - "precision_at_1": 0.62876, - "precision_at_3": 0.4946, - "precision_at_5": 0.41143, - "precision_at_10": 0.27784, - "precision_at_50": 0.06755, - "precision_at_100": 0.03423, - "precision_at_1000": 0.00342, - "mrr_at_1": 0.62876, - "mrr_at_3": 0.70075, - "mrr_at_5": 0.71359, - "mrr_at_10": 0.71942, - "mrr_at_50": 0.72115, - "mrr_at_100": 0.72122, - "mrr_at_1000": 0.72122 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.64746, - "ndcg_at_3": 0.61543, - "ndcg_at_5": 0.61397, - "ndcg_at_10": 0.6378, - "ndcg_at_50": 0.67527, - "ndcg_at_100": 0.67814, - "ndcg_at_1000": 0.67814, - "map_at_1": 0.2877, - "map_at_3": 0.43922, - "map_at_5": 0.50028, - "map_at_10": 0.5565, - "map_at_50": 0.58007, - "map_at_100": 0.58068, - "map_at_1000": 0.58068, - "recall_at_1": 0.2877, - "recall_at_3": 0.47693, - "recall_at_5": 0.57006, - "recall_at_10": 0.67885, - "recall_at_50": 0.77644, - "recall_at_100": 0.78843, - "recall_at_1000": 0.78843, - "precision_at_1": 0.64746, - "precision_at_3": 0.46365, - "precision_at_5": 0.36791, - "precision_at_10": 0.24356, - "precision_at_50": 0.05867, - "precision_at_100": 0.02978, - "precision_at_1000": 0.00298, - "mrr_at_1": 0.64746, - "mrr_at_3": 0.70704, - "mrr_at_5": 0.71615, - "mrr_at_10": 0.72174, - "mrr_at_50": 0.72323, - "mrr_at_100": 0.72329, - "mrr_at_1000": 0.72329 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.75344, - "ndcg_at_3": 0.70528, - "ndcg_at_5": 0.68554, - "ndcg_at_10": 0.70359, - "ndcg_at_50": 0.75149, - "ndcg_at_100": 0.7534, - "ndcg_at_1000": 0.7534, - "map_at_1": 0.21011, - "map_at_3": 0.40419, - "map_at_5": 0.50265, - "map_at_10": 0.60235, - "map_at_50": 0.63797, - "map_at_100": 0.63844, - "map_at_1000": 0.63844, - "recall_at_1": 0.21011, - "recall_at_3": 0.43651, - "recall_at_5": 0.56576, - "recall_at_10": 0.72781, - "recall_at_50": 0.84324, - "recall_at_100": 0.85061, - "recall_at_1000": 0.85061, - "precision_at_1": 0.75344, - "precision_at_3": 0.62294, - "precision_at_5": 0.5266, - "precision_at_10": 0.36577, - "precision_at_50": 0.0867, - "precision_at_100": 0.04369, - "precision_at_1000": 0.00437, - "mrr_at_1": 0.75344, - "mrr_at_3": 0.80867, - "mrr_at_5": 0.81531, - "mrr_at_10": 0.81881, - "mrr_at_50": 0.81997, - "mrr_at_100": 0.82001, - "mrr_at_1000": 0.82001 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.68356, - "ndcg_at_3": 0.60823, - "ndcg_at_5": 0.57103, - "ndcg_at_10": 0.58936, - "ndcg_at_50": 0.657, - "ndcg_at_100": 0.66122, - "ndcg_at_1000": 0.66122, - "map_at_1": 0.14272, - "map_at_3": 0.29609, - "map_at_5": 0.37762, - "map_at_10": 0.46091, - "map_at_50": 0.50459, - "map_at_100": 0.50562, - "map_at_1000": 0.50562, - "recall_at_1": 0.14272, - "recall_at_3": 0.3269, - "recall_at_5": 0.44412, - "recall_at_10": 0.59864, - "recall_at_50": 0.76149, - "recall_at_100": 0.77778, - "recall_at_1000": 0.77778, - "precision_at_1": 0.68356, - "precision_at_3": 0.5651, - "precision_at_5": 0.47727, - "precision_at_10": 0.33474, - "precision_at_50": 0.08616, - "precision_at_100": 0.04382, - "precision_at_1000": 0.00438, - "mrr_at_1": 0.6841, - "mrr_at_3": 0.75196, - "mrr_at_5": 0.76175, - "mrr_at_10": 0.76691, - "mrr_at_50": 0.76851, - "mrr_at_100": 0.76856, - "mrr_at_1000": 0.76856 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.6075, - "ndcg_at_3": 0.57463, - "ndcg_at_5": 0.58789, - "ndcg_at_10": 0.62048, - "ndcg_at_50": 0.65271, - "ndcg_at_100": 0.65398, - "ndcg_at_1000": 0.65398, - "map_at_1": 0.26698, - "map_at_3": 0.43452, - "map_at_5": 0.48853, - "map_at_10": 0.5258, - "map_at_50": 0.54225, - "map_at_100": 0.54247, - "map_at_1000": 0.54247, - "recall_at_1": 0.26698, - "recall_at_3": 0.49589, - "recall_at_5": 0.59374, - "recall_at_10": 0.6886, - "recall_at_50": 0.78118, - "recall_at_100": 0.787, - "recall_at_1000": 0.787, - "precision_at_1": 0.6075, - "precision_at_3": 0.4339, - "precision_at_5": 0.3324, - "precision_at_10": 0.20375, - "precision_at_50": 0.04731, - "precision_at_100": 0.02381, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.6075, - "mrr_at_3": 0.69078, - "mrr_at_5": 0.70083, - "mrr_at_10": 0.70611, - "mrr_at_50": 0.70781, - "mrr_at_100": 0.70785, - "mrr_at_1000": 0.70785 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.54737, - "ndcg_at_3": 0.47483, - "ndcg_at_5": 0.45661, - "ndcg_at_10": 0.48344, - "ndcg_at_50": 0.53405, - "ndcg_at_100": 0.53698, - "ndcg_at_1000": 0.53698, - "map_at_1": 0.14532, - "map_at_3": 0.26085, - "map_at_5": 0.31439, - "map_at_10": 0.3677, - "map_at_50": 0.39536, - "map_at_100": 0.39594, - "map_at_1000": 0.39594, - "recall_at_1": 0.14532, - "recall_at_3": 0.29615, - "recall_at_5": 0.38806, - "recall_at_10": 0.50274, - "recall_at_50": 0.63449, - "recall_at_100": 0.64606, - "recall_at_1000": 0.64606, - "precision_at_1": 0.54737, - "precision_at_3": 0.42161, - "precision_at_5": 0.34626, - "precision_at_10": 0.23662, - "precision_at_50": 0.06025, - "precision_at_100": 0.0306, - "precision_at_1000": 0.00306, - "mrr_at_1": 0.54737, - "mrr_at_3": 0.6265, - "mrr_at_5": 0.64018, - "mrr_at_10": 0.64638, - "mrr_at_50": 0.64913, - "mrr_at_100": 0.64921, - "mrr_at_1000": 0.64921 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.53691, - "ndcg_at_3": 0.55444, - "ndcg_at_5": 0.57056, - "ndcg_at_10": 0.59164, - "ndcg_at_50": 0.61441, - "ndcg_at_100": 0.61567, - "ndcg_at_1000": 0.61567, - "map_at_1": 0.33436, - "map_at_3": 0.47191, - "map_at_5": 0.51081, - "map_at_10": 0.5371, - "map_at_50": 0.54858, - "map_at_100": 0.54873, - "map_at_1000": 0.54873, - "recall_at_1": 0.33436, - "recall_at_3": 0.52603, - "recall_at_5": 0.59974, - "recall_at_10": 0.66414, - "recall_at_50": 0.73674, - "recall_at_100": 0.74381, - "recall_at_1000": 0.74381, - "precision_at_1": 0.53691, - "precision_at_3": 0.34259, - "precision_at_5": 0.25413, - "precision_at_10": 0.15224, - "precision_at_50": 0.03485, - "precision_at_100": 0.01753, - "precision_at_1000": 0.00175, - "mrr_at_1": 0.53691, - "mrr_at_3": 0.59695, - "mrr_at_5": 0.60474, - "mrr_at_10": 0.6084, - "mrr_at_50": 0.61044, - "mrr_at_100": 0.61051, - "mrr_at_1000": 0.61051 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.80703, - "ndcg_at_3": 0.71343, - "ndcg_at_5": 0.72466, - "ndcg_at_10": 0.75427, - "ndcg_at_50": 0.7766, - "ndcg_at_100": 0.77734, - "ndcg_at_1000": 0.77734, - "map_at_1": 0.42203, - "map_at_3": 0.5799, - "map_at_5": 0.6338, - "map_at_10": 0.66988, - "map_at_50": 0.68239, - "map_at_100": 0.68254, - "map_at_1000": 0.68254, - "recall_at_1": 0.42203, - "recall_at_3": 0.62034, - "recall_at_5": 0.71271, - "recall_at_10": 0.7924, - "recall_at_50": 0.85382, - "recall_at_100": 0.85694, - "recall_at_1000": 0.85694, - "precision_at_1": 0.80703, - "precision_at_3": 0.47707, - "precision_at_5": 0.35295, - "precision_at_10": 0.21001, - "precision_at_50": 0.0468, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.80703, - "mrr_at_3": 0.8518, - "mrr_at_5": 0.85716, - "mrr_at_10": 0.85903, - "mrr_at_50": 0.85959, - "mrr_at_100": 0.8596, - "mrr_at_1000": 0.8596 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.75217, - "ndcg_at_3": 0.69091, - "ndcg_at_5": 0.70135, - "ndcg_at_10": 0.72334, - "ndcg_at_50": 0.73968, - "ndcg_at_100": 0.74066, - "ndcg_at_1000": 0.74066, - "map_at_1": 0.43797, - "map_at_3": 0.58847, - "map_at_5": 0.62935, - "map_at_10": 0.654, - "map_at_50": 0.66217, - "map_at_100": 0.66235, - "map_at_1000": 0.66235, - "recall_at_1": 0.43797, - "recall_at_3": 0.62745, - "recall_at_5": 0.69838, - "recall_at_10": 0.75989, - "recall_at_50": 0.80877, - "recall_at_100": 0.8129, - "recall_at_1000": 0.8129, - "precision_at_1": 0.75217, - "precision_at_3": 0.43273, - "precision_at_5": 0.31048, - "precision_at_10": 0.17881, - "precision_at_50": 0.03917, - "precision_at_100": 0.01972, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.75217, - "mrr_at_3": 0.79589, - "mrr_at_5": 0.80229, - "mrr_at_10": 0.80508, - "mrr_at_50": 0.80603, - "mrr_at_100": 0.80604, - "mrr_at_1000": 0.80604 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.56153, - "ndcg_at_3": 0.51444, - "ndcg_at_5": 0.52163, - "ndcg_at_10": 0.5569, - "ndcg_at_50": 0.58985, - "ndcg_at_100": 0.59138, - "ndcg_at_1000": 0.59138, - "map_at_1": 0.23628, - "map_at_3": 0.36792, - "map_at_5": 0.41732, - "map_at_10": 0.45783, - "map_at_50": 0.47414, - "map_at_100": 0.47438, - "map_at_1000": 0.47438, - "recall_at_1": 0.23628, - "recall_at_3": 0.42197, - "recall_at_5": 0.51267, - "recall_at_10": 0.61998, - "recall_at_50": 0.71478, - "recall_at_100": 0.72196, - "recall_at_1000": 0.72196, - "precision_at_1": 0.56153, - "precision_at_3": 0.3911, - "precision_at_5": 0.30491, - "precision_at_10": 0.19393, - "precision_at_50": 0.0458, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.56153, - "mrr_at_3": 0.64125, - "mrr_at_5": 0.65168, - "mrr_at_10": 0.65815, - "mrr_at_50": 0.66011, - "mrr_at_100": 0.66017, - "mrr_at_1000": 0.66017 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.69578, - "ndcg_at_3": 0.63613, - "ndcg_at_5": 0.62963, - "ndcg_at_10": 0.65905, - "ndcg_at_50": 0.69539, - "ndcg_at_100": 0.69757, - "ndcg_at_1000": 0.69757, - "map_at_1": 0.26948, - "map_at_3": 0.43755, - "map_at_5": 0.50161, - "map_at_10": 0.56063, - "map_at_50": 0.58339, - "map_at_100": 0.58385, - "map_at_1000": 0.58385, - "recall_at_1": 0.26948, - "recall_at_3": 0.48034, - "recall_at_5": 0.58053, - "recall_at_10": 0.69852, - "recall_at_50": 0.79269, - "recall_at_100": 0.80204, - "recall_at_1000": 0.80204, - "precision_at_1": 0.69578, - "precision_at_3": 0.50228, - "precision_at_5": 0.39608, - "precision_at_10": 0.2596, - "precision_at_50": 0.06096, - "precision_at_100": 0.0308, - "precision_at_1000": 0.00308, - "mrr_at_1": 0.69578, - "mrr_at_3": 0.75847, - "mrr_at_5": 0.7667, - "mrr_at_10": 0.77104, - "mrr_at_50": 0.77243, - "mrr_at_100": 0.77247, - "mrr_at_1000": 0.77247 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.65261, - "ndcg_at_3": 0.61703, - "ndcg_at_5": 0.61338, - "ndcg_at_10": 0.63667, - "ndcg_at_50": 0.66704, - "ndcg_at_100": 0.66895, - "ndcg_at_1000": 0.66895, - "map_at_1": 0.31467, - "map_at_3": 0.45607, - "map_at_5": 0.50579, - "map_at_10": 0.54778, - "map_at_50": 0.56523, - "map_at_100": 0.56563, - "map_at_1000": 0.56563, - "recall_at_1": 0.31467, - "recall_at_3": 0.50547, - "recall_at_5": 0.58671, - "recall_at_10": 0.67824, - "recall_at_50": 0.75786, - "recall_at_100": 0.76576, - "recall_at_1000": 0.76576, - "precision_at_1": 0.65261, - "precision_at_3": 0.44132, - "precision_at_5": 0.33837, - "precision_at_10": 0.21312, - "precision_at_50": 0.04979, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.65261, - "mrr_at_3": 0.72505, - "mrr_at_5": 0.73273, - "mrr_at_10": 0.73718, - "mrr_at_50": 0.73867, - "mrr_at_100": 0.7387, - "mrr_at_1000": 0.7387 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.75434, - "ndcg_at_3": 0.69859, - "ndcg_at_5": 0.68995, - "ndcg_at_10": 0.73306, - "ndcg_at_50": 0.78084, - "ndcg_at_100": 0.78304, - "ndcg_at_1000": 0.78304, - "map_at_1": 0.25245, - "map_at_3": 0.4768, - "map_at_5": 0.56108, - "map_at_10": 0.63185, - "map_at_50": 0.66181, - "map_at_100": 0.66221, - "map_at_1000": 0.66221, - "recall_at_1": 0.25245, - "recall_at_3": 0.52312, - "recall_at_5": 0.64442, - "recall_at_10": 0.78875, - "recall_at_50": 0.91732, - "recall_at_100": 0.92765, - "recall_at_1000": 0.92765, - "precision_at_1": 0.75434, - "precision_at_3": 0.59249, - "precision_at_5": 0.46821, - "precision_at_10": 0.30087, - "precision_at_50": 0.07081, - "precision_at_100": 0.03566, - "precision_at_1000": 0.00357, - "mrr_at_1": 0.75434, - "mrr_at_3": 0.81647, - "mrr_at_5": 0.82341, - "mrr_at_10": 0.8276, - "mrr_at_50": 0.82915, - "mrr_at_100": 0.82925, - "mrr_at_1000": 0.82925 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.72973, - "ndcg_at_3": 0.68162, - "ndcg_at_5": 0.67153, - "ndcg_at_10": 0.72076, - "ndcg_at_50": 0.77117, - "ndcg_at_100": 0.77311, - "ndcg_at_1000": 0.77311, - "map_at_1": 0.22074, - "map_at_3": 0.42743, - "map_at_5": 0.5225, - "map_at_10": 0.61963, - "map_at_50": 0.65348, - "map_at_100": 0.6538, - "map_at_1000": 0.6538, - "recall_at_1": 0.22074, - "recall_at_3": 0.46485, - "recall_at_5": 0.59447, - "recall_at_10": 0.77515, - "recall_at_50": 0.90806, - "recall_at_100": 0.91717, - "recall_at_1000": 0.91717, - "precision_at_1": 0.72973, - "precision_at_3": 0.6026, - "precision_at_5": 0.4997, - "precision_at_10": 0.34144, - "precision_at_50": 0.08024, - "precision_at_100": 0.04036, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.72973, - "mrr_at_3": 0.7973, - "mrr_at_5": 0.8039, - "mrr_at_10": 0.8096, - "mrr_at_50": 0.81029, - "mrr_at_100": 0.81032, - "mrr_at_1000": 0.81032 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.76036, - "ndcg_at_3": 0.69684, - "ndcg_at_5": 0.69661, - "ndcg_at_10": 0.73431, - "ndcg_at_50": 0.77618, - "ndcg_at_100": 0.77744, - "ndcg_at_1000": 0.77744, - "map_at_1": 0.23341, - "map_at_3": 0.44263, - "map_at_5": 0.54556, - "map_at_10": 0.63459, - "map_at_50": 0.66276, - "map_at_100": 0.66299, - "map_at_1000": 0.66299, - "recall_at_1": 0.23341, - "recall_at_3": 0.47829, - "recall_at_5": 0.62941, - "recall_at_10": 0.78617, - "recall_at_50": 0.89352, - "recall_at_100": 0.89912, - "recall_at_1000": 0.89912, - "precision_at_1": 0.76036, - "precision_at_3": 0.59566, - "precision_at_5": 0.49941, - "precision_at_10": 0.33609, - "precision_at_50": 0.07775, - "precision_at_100": 0.03908, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.76331, - "mrr_at_3": 0.81706, - "mrr_at_5": 0.82475, - "mrr_at_10": 0.82857, - "mrr_at_50": 0.83014, - "mrr_at_100": 0.83018, - "mrr_at_1000": 0.83018 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.80531, - "ndcg_at_3": 0.73296, - "ndcg_at_5": 0.7399, - "ndcg_at_10": 0.78792, - "ndcg_at_50": 0.82738, - "ndcg_at_100": 0.82907, - "ndcg_at_1000": 0.82907, - "map_at_1": 0.28242, - "map_at_3": 0.52141, - "map_at_5": 0.6145, - "map_at_10": 0.69185, - "map_at_50": 0.71794, - "map_at_100": 0.71832, - "map_at_1000": 0.71832, - "recall_at_1": 0.28242, - "recall_at_3": 0.55889, - "recall_at_5": 0.69915, - "recall_at_10": 0.84681, - "recall_at_50": 0.94897, - "recall_at_100": 0.95626, - "recall_at_1000": 0.95626, - "precision_at_1": 0.80531, - "precision_at_3": 0.61652, - "precision_at_5": 0.49676, - "precision_at_10": 0.32094, - "precision_at_50": 0.07386, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.80531, - "mrr_at_3": 0.85595, - "mrr_at_5": 0.86657, - "mrr_at_10": 0.86821, - "mrr_at_50": 0.86886, - "mrr_at_100": 0.86886, - "mrr_at_1000": 0.86886 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.86413, - "ndcg_at_3": 0.78357, - "ndcg_at_5": 0.77058, - "ndcg_at_10": 0.81657, - "ndcg_at_50": 0.86157, - "ndcg_at_100": 0.86257, - "ndcg_at_1000": 0.86257, - "map_at_1": 0.3134, - "map_at_3": 0.54652, - "map_at_5": 0.63612, - "map_at_10": 0.72197, - "map_at_50": 0.75317, - "map_at_100": 0.75343, - "map_at_1000": 0.75343, - "recall_at_1": 0.3134, - "recall_at_3": 0.57698, - "recall_at_5": 0.70432, - "recall_at_10": 0.85656, - "recall_at_50": 0.96861, - "recall_at_100": 0.97235, - "recall_at_1000": 0.97235, - "precision_at_1": 0.86413, - "precision_at_3": 0.6413, - "precision_at_5": 0.51141, - "precision_at_10": 0.33614, - "precision_at_50": 0.07821, - "precision_at_100": 0.03927, - "precision_at_1000": 0.00393, - "mrr_at_1": 0.86413, - "mrr_at_3": 0.90534, - "mrr_at_5": 0.90969, - "mrr_at_10": 0.91114, - "mrr_at_50": 0.91177, - "mrr_at_100": 0.91177, - "mrr_at_1000": 0.91177 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66369, - "ndcg_at_3": 0.61975, - "ndcg_at_5": 0.62933, - "ndcg_at_10": 0.66254, - "ndcg_at_50": 0.70436, - "ndcg_at_100": 0.70839, - "ndcg_at_1000": 0.70839, - "map_at_1": 0.29337, - "map_at_3": 0.47011, - "map_at_5": 0.53641, - "map_at_10": 0.58, - "map_at_50": 0.60179, - "map_at_100": 0.60243, - "map_at_1000": 0.60243, - "recall_at_1": 0.29337, - "recall_at_3": 0.5108, - "recall_at_5": 0.61811, - "recall_at_10": 0.71493, - "recall_at_50": 0.83326, - "recall_at_100": 0.85298, - "recall_at_1000": 0.85298, - "precision_at_1": 0.66369, - "precision_at_3": 0.47024, - "precision_at_5": 0.36905, - "precision_at_10": 0.22619, - "precision_at_50": 0.0544, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.66369, - "mrr_at_3": 0.72569, - "mrr_at_5": 0.73462, - "mrr_at_10": 0.7377, - "mrr_at_50": 0.74055, - "mrr_at_100": 0.74073, - "mrr_at_1000": 0.74073 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.69014, - "ndcg_at_3": 0.66416, - "ndcg_at_5": 0.6797, - "ndcg_at_10": 0.73559, - "ndcg_at_50": 0.77356, - "ndcg_at_100": 0.77486, - "ndcg_at_1000": 0.77486, - "map_at_1": 0.34492, - "map_at_3": 0.53222, - "map_at_5": 0.5841, - "map_at_10": 0.63543, - "map_at_50": 0.65541, - "map_at_100": 0.65567, - "map_at_1000": 0.65567, - "recall_at_1": 0.34492, - "recall_at_3": 0.60697, - "recall_at_5": 0.70161, - "recall_at_10": 0.82953, - "recall_at_50": 0.9395, - "recall_at_100": 0.94563, - "recall_at_1000": 0.94563, - "precision_at_1": 0.69014, - "precision_at_3": 0.47606, - "precision_at_5": 0.34986, - "precision_at_10": 0.22282, - "precision_at_50": 0.05194, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.69014, - "mrr_at_3": 0.78685, - "mrr_at_5": 0.79629, - "mrr_at_10": 0.79932, - "mrr_at_50": 0.80061, - "mrr_at_100": 0.80064, - "mrr_at_1000": 0.80064 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.7423, - "ndcg_at_3": 0.65274, - "ndcg_at_5": 0.68006, - "ndcg_at_10": 0.72633, - "ndcg_at_50": 0.77072, - "ndcg_at_100": 0.77217, - "ndcg_at_1000": 0.77217, - "map_at_1": 0.35974, - "map_at_3": 0.52938, - "map_at_5": 0.58875, - "map_at_10": 0.63167, - "map_at_50": 0.65232, - "map_at_100": 0.65254, - "map_at_1000": 0.65254, - "recall_at_1": 0.35974, - "recall_at_3": 0.58176, - "recall_at_5": 0.69209, - "recall_at_10": 0.79862, - "recall_at_50": 0.93249, - "recall_at_100": 0.94029, - "recall_at_1000": 0.94029, - "precision_at_1": 0.7423, - "precision_at_3": 0.45191, - "precision_at_5": 0.34398, - "precision_at_10": 0.21204, - "precision_at_50": 0.05081, - "precision_at_100": 0.02555, - "precision_at_1000": 0.00255, - "mrr_at_1": 0.7395, - "mrr_at_3": 0.80112, - "mrr_at_5": 0.81162, - "mrr_at_10": 0.81424, - "mrr_at_50": 0.81698, - "mrr_at_100": 0.81705, - "mrr_at_1000": 0.81705 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.72043, - "ndcg_at_3": 0.67933, - "ndcg_at_5": 0.69536, - "ndcg_at_10": 0.73884, - "ndcg_at_50": 0.76903, - "ndcg_at_100": 0.77065, - "ndcg_at_1000": 0.77065, - "map_at_1": 0.38297, - "map_at_3": 0.55558, - "map_at_5": 0.60856, - "map_at_10": 0.64675, - "map_at_50": 0.66226, - "map_at_100": 0.66252, - "map_at_1000": 0.66252, - "recall_at_1": 0.38297, - "recall_at_3": 0.60966, - "recall_at_5": 0.70729, - "recall_at_10": 0.80911, - "recall_at_50": 0.89451, - "recall_at_100": 0.90235, - "recall_at_1000": 0.90235, - "precision_at_1": 0.72043, - "precision_at_3": 0.46416, - "precision_at_5": 0.34624, - "precision_at_10": 0.20914, - "precision_at_50": 0.04828, - "precision_at_100": 0.02433, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.72312, - "mrr_at_3": 0.80645, - "mrr_at_5": 0.81371, - "mrr_at_10": 0.81646, - "mrr_at_50": 0.81743, - "mrr_at_100": 0.81747, - "mrr_at_1000": 0.81747 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.62022, - "ndcg_at_3": 0.57419, - "ndcg_at_5": 0.59068, - "ndcg_at_10": 0.63784, - "ndcg_at_50": 0.69641, - "ndcg_at_100": 0.70067, - "ndcg_at_1000": 0.70067, - "map_at_1": 0.26461, - "map_at_3": 0.43112, - "map_at_5": 0.48992, - "map_at_10": 0.53862, - "map_at_50": 0.56636, - "map_at_100": 0.56722, - "map_at_1000": 0.56722, - "recall_at_1": 0.26461, - "recall_at_3": 0.48261, - "recall_at_5": 0.59196, - "recall_at_10": 0.71109, - "recall_at_50": 0.89029, - "recall_at_100": 0.90892, - "recall_at_1000": 0.90892, - "precision_at_1": 0.62022, - "precision_at_3": 0.4408, - "precision_at_5": 0.34699, - "precision_at_10": 0.22322, - "precision_at_50": 0.05645, - "precision_at_100": 0.0288, - "precision_at_1000": 0.00288, - "mrr_at_1": 0.62022, - "mrr_at_3": 0.70128, - "mrr_at_5": 0.71412, - "mrr_at_10": 0.71828, - "mrr_at_50": 0.7217, - "mrr_at_100": 0.72183, - "mrr_at_1000": 0.72183 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.62973, - "ndcg_at_3": 0.62188, - "ndcg_at_5": 0.67141, - "ndcg_at_10": 0.7205, - "ndcg_at_50": 0.75759, - "ndcg_at_100": 0.75966, - "ndcg_at_1000": 0.75966, - "map_at_1": 0.35497, - "map_at_3": 0.52359, - "map_at_5": 0.58665, - "map_at_10": 0.62914, - "map_at_50": 0.64572, - "map_at_100": 0.6461, - "map_at_1000": 0.6461, - "recall_at_1": 0.35497, - "recall_at_3": 0.59737, - "recall_at_5": 0.73527, - "recall_at_10": 0.8508, - "recall_at_50": 0.97108, - "recall_at_100": 0.97991, - "recall_at_1000": 0.97991, - "precision_at_1": 0.62973, - "precision_at_3": 0.40811, - "precision_at_5": 0.32162, - "precision_at_10": 0.19757, - "precision_at_50": 0.046, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.62973, - "mrr_at_3": 0.71712, - "mrr_at_5": 0.7336, - "mrr_at_10": 0.7376, - "mrr_at_50": 0.74071, - "mrr_at_100": 0.74075, - "mrr_at_1000": 0.74075 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.52147, - "ndcg_at_3": 0.56625, - "ndcg_at_5": 0.60294, - "ndcg_at_10": 0.65814, - "ndcg_at_50": 0.69461, - "ndcg_at_100": 0.69643, - "ndcg_at_1000": 0.69643, - "map_at_1": 0.34676, - "map_at_3": 0.4847, - "map_at_5": 0.52534, - "map_at_10": 0.56391, - "map_at_50": 0.57776, - "map_at_100": 0.578, - "map_at_1000": 0.578, - "recall_at_1": 0.34676, - "recall_at_3": 0.58896, - "recall_at_5": 0.68013, - "recall_at_10": 0.81265, - "recall_at_50": 0.94274, - "recall_at_100": 0.95245, - "recall_at_1000": 0.95245, - "precision_at_1": 0.52147, - "precision_at_3": 0.33538, - "precision_at_5": 0.25031, - "precision_at_10": 0.1592, - "precision_at_50": 0.03718, - "precision_at_100": 0.01877, - "precision_at_1000": 0.00188, - "mrr_at_1": 0.52147, - "mrr_at_3": 0.64366, - "mrr_at_5": 0.65593, - "mrr_at_10": 0.66382, - "mrr_at_50": 0.66732, - "mrr_at_100": 0.66735, - "mrr_at_1000": 0.66735 - }, - "gpt3": { - "ndcg_at_1": 0.46588, - "ndcg_at_3": 0.52633, - "ndcg_at_5": 0.57436, - "ndcg_at_10": 0.61676, - "ndcg_at_50": 0.65392, - "ndcg_at_100": 0.66079, - "ndcg_at_1000": 0.66079, - "map_at_1": 0.37191, - "map_at_3": 0.48034, - "map_at_5": 0.5161, - "map_at_10": 0.53754, - "map_at_50": 0.5496, - "map_at_100": 0.55031, - "map_at_1000": 0.55031, - "recall_at_1": 0.37191, - "recall_at_3": 0.57221, - "recall_at_5": 0.6726, - "recall_at_10": 0.78882, - "recall_at_50": 0.92854, - "recall_at_100": 0.9686, - "recall_at_1000": 0.9686, - "precision_at_1": 0.46588, - "precision_at_3": 0.25816, - "precision_at_5": 0.19228, - "precision_at_10": 0.11395, - "precision_at_50": 0.02754, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.46588, - "mrr_at_3": 0.56231, - "mrr_at_5": 0.58145, - "mrr_at_10": 0.59458, - "mrr_at_50": 0.59941, - "mrr_at_100": 0.59997, - "mrr_at_1000": 0.59997 - }, - "llm-survey": { - "ndcg_at_1": 0.58543, - "ndcg_at_3": 0.5629, - "ndcg_at_5": 0.58401, - "ndcg_at_10": 0.63114, - "ndcg_at_50": 0.67875, - "ndcg_at_100": 0.68219, - "ndcg_at_1000": 0.68219, - "map_at_1": 0.27635, - "map_at_3": 0.44533, - "map_at_5": 0.49263, - "map_at_10": 0.53428, - "map_at_50": 0.55626, - "map_at_100": 0.55667, - "map_at_1000": 0.55667, - "recall_at_1": 0.27635, - "recall_at_3": 0.51293, - "recall_at_5": 0.61041, - "recall_at_10": 0.72684, - "recall_at_50": 0.87763, - "recall_at_100": 0.89631, - "recall_at_1000": 0.89631, - "precision_at_1": 0.58543, - "precision_at_3": 0.40523, - "precision_at_5": 0.30308, - "precision_at_10": 0.19104, - "precision_at_50": 0.04683, - "precision_at_100": 0.02373, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.58543, - "mrr_at_3": 0.67787, - "mrr_at_5": 0.68992, - "mrr_at_10": 0.69434, - "mrr_at_50": 0.69804, - "mrr_at_100": 0.69824, - "mrr_at_1000": 0.69824 - }, - "gemini": { - "ndcg_at_1": 0.50602, - "ndcg_at_3": 0.64056, - "ndcg_at_5": 0.6658, - "ndcg_at_10": 0.68046, - "ndcg_at_50": 0.70834, - "ndcg_at_100": 0.71098, - "ndcg_at_1000": 0.71098, - "map_at_1": 0.50602, - "map_at_3": 0.6091, - "map_at_5": 0.62336, - "map_at_10": 0.62963, - "map_at_50": 0.63662, - "map_at_100": 0.63686, - "map_at_1000": 0.63686, - "recall_at_1": 0.50602, - "recall_at_3": 0.73092, - "recall_at_5": 0.79116, - "recall_at_10": 0.83534, - "recall_at_50": 0.95181, - "recall_at_100": 0.96787, - "recall_at_1000": 0.96787, - "precision_at_1": 0.50602, - "precision_at_3": 0.24364, - "precision_at_5": 0.15823, - "precision_at_10": 0.08353, - "precision_at_50": 0.01904, - "precision_at_100": 0.00968, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.50602, - "mrr_at_3": 0.6091, - "mrr_at_5": 0.62336, - "mrr_at_10": 0.62963, - "mrr_at_50": 0.63662, - "mrr_at_100": 0.63686, - "mrr_at_1000": 0.63686 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.77258, - "ndcg_at_3": 0.70053, - "ndcg_at_5": 0.71812, - "ndcg_at_10": 0.7706, - "ndcg_at_50": 0.80189, - "ndcg_at_100": 0.80381, - "ndcg_at_1000": 0.80381, - "map_at_1": 0.32006, - "map_at_3": 0.51295, - "map_at_5": 0.60193, - "map_at_10": 0.67795, - "map_at_50": 0.6959, - "map_at_100": 0.69626, - "map_at_1000": 0.69626, - "recall_at_1": 0.32006, - "recall_at_3": 0.55931, - "recall_at_5": 0.69942, - "recall_at_10": 0.84774, - "recall_at_50": 0.94016, - "recall_at_100": 0.94907, - "recall_at_1000": 0.94907, - "precision_at_1": 0.77258, - "precision_at_3": 0.54295, - "precision_at_5": 0.44042, - "precision_at_10": 0.2875, - "precision_at_50": 0.06422, - "precision_at_100": 0.03234, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.77258, - "mrr_at_3": 0.82673, - "mrr_at_5": 0.83372, - "mrr_at_10": 0.83624, - "mrr_at_50": 0.8376, - "mrr_at_100": 0.83765, - "mrr_at_1000": 0.83765 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.39311, - "ndcg_at_3": 0.36568, - "ndcg_at_5": 0.37744, - "ndcg_at_10": 0.4008, - "ndcg_at_50": 0.42596, - "ndcg_at_100": 0.42921, - "ndcg_at_1000": 0.42921, - "map_at_1": 0.14712, - "map_at_3": 0.24096, - "map_at_5": 0.28669, - "map_at_10": 0.32583, - "map_at_50": 0.3378, - "map_at_100": 0.33829, - "map_at_1000": 0.33829, - "recall_at_1": 0.14712, - "recall_at_3": 0.27941, - "recall_at_5": 0.36518, - "recall_at_10": 0.45009, - "recall_at_50": 0.52818, - "recall_at_100": 0.54393, - "recall_at_1000": 0.54393, - "precision_at_1": 0.39311, - "precision_at_3": 0.29262, - "precision_at_5": 0.24464, - "precision_at_10": 0.16335, - "precision_at_50": 0.03805, - "precision_at_100": 0.01941, - "precision_at_1000": 0.00194, - "mrr_at_1": 0.39311, - "mrr_at_3": 0.45558, - "mrr_at_5": 0.46863, - "mrr_at_10": 0.47337, - "mrr_at_50": 0.47593, - "mrr_at_100": 0.47607, - "mrr_at_1000": 0.47607 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.65056, - "ndcg_at_3": 0.59153, - "ndcg_at_5": 0.59015, - "ndcg_at_10": 0.61763, - "ndcg_at_50": 0.6527, - "ndcg_at_100": 0.65596, - "ndcg_at_1000": 0.65596, - "map_at_1": 0.20269, - "map_at_3": 0.35708, - "map_at_5": 0.43884, - "map_at_10": 0.50997, - "map_at_50": 0.53167, - "map_at_100": 0.53224, - "map_at_1000": 0.53224, - "recall_at_1": 0.20269, - "recall_at_3": 0.39653, - "recall_at_5": 0.52179, - "recall_at_10": 0.64935, - "recall_at_50": 0.73999, - "recall_at_100": 0.75401, - "recall_at_1000": 0.75401, - "precision_at_1": 0.65056, - "precision_at_3": 0.51247, - "precision_at_5": 0.43465, - "precision_at_10": 0.2901, - "precision_at_50": 0.0675, - "precision_at_100": 0.03423, - "precision_at_1000": 0.00342, - "mrr_at_1": 0.64938, - "mrr_at_3": 0.72893, - "mrr_at_5": 0.73919, - "mrr_at_10": 0.74289, - "mrr_at_50": 0.74431, - "mrr_at_100": 0.7444, - "mrr_at_1000": 0.7444 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5917, - "ndcg_at_3": 0.58173, - "ndcg_at_5": 0.59152, - "ndcg_at_10": 0.62547, - "ndcg_at_50": 0.65486, - "ndcg_at_100": 0.65805, - "ndcg_at_1000": 0.65805, - "map_at_1": 0.24752, - "map_at_3": 0.40188, - "map_at_5": 0.4671, - "map_at_10": 0.53513, - "map_at_50": 0.55334, - "map_at_100": 0.55394, - "map_at_1000": 0.55394, - "recall_at_1": 0.24752, - "recall_at_3": 0.45613, - "recall_at_5": 0.56539, - "recall_at_10": 0.6921, - "recall_at_50": 0.77463, - "recall_at_100": 0.78843, - "recall_at_1000": 0.78843, - "precision_at_1": 0.5917, - "precision_at_3": 0.45209, - "precision_at_5": 0.37076, - "precision_at_10": 0.25489, - "precision_at_50": 0.05862, - "precision_at_100": 0.02978, - "precision_at_1000": 0.00298, - "mrr_at_1": 0.59108, - "mrr_at_3": 0.67513, - "mrr_at_5": 0.68756, - "mrr_at_10": 0.69194, - "mrr_at_50": 0.69307, - "mrr_at_100": 0.69316, - "mrr_at_1000": 0.69316 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.63333, - "ndcg_at_3": 0.60184, - "ndcg_at_5": 0.59771, - "ndcg_at_10": 0.62549, - "ndcg_at_50": 0.68943, - "ndcg_at_100": 0.69396, - "ndcg_at_1000": 0.69396, - "map_at_1": 0.17011, - "map_at_3": 0.32664, - "map_at_5": 0.41544, - "map_at_10": 0.51104, - "map_at_50": 0.55252, - "map_at_100": 0.55355, - "map_at_1000": 0.55355, - "recall_at_1": 0.17011, - "recall_at_3": 0.37007, - "recall_at_5": 0.50215, - "recall_at_10": 0.67011, - "recall_at_50": 0.83199, - "recall_at_100": 0.85061, - "recall_at_1000": 0.85061, - "precision_at_1": 0.63333, - "precision_at_3": 0.53795, - "precision_at_5": 0.47182, - "precision_at_10": 0.33969, - "precision_at_50": 0.08595, - "precision_at_100": 0.04369, - "precision_at_1000": 0.00437, - "mrr_at_1": 0.63412, - "mrr_at_3": 0.71963, - "mrr_at_5": 0.73089, - "mrr_at_10": 0.73577, - "mrr_at_50": 0.73775, - "mrr_at_100": 0.73785, - "mrr_at_1000": 0.73785 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.66649, - "ndcg_at_3": 0.60495, - "ndcg_at_5": 0.58501, - "ndcg_at_10": 0.61047, - "ndcg_at_50": 0.65884, - "ndcg_at_100": 0.6655, - "ndcg_at_1000": 0.6655, - "map_at_1": 0.1395, - "map_at_3": 0.29317, - "map_at_5": 0.38604, - "map_at_10": 0.48432, - "map_at_50": 0.51459, - "map_at_100": 0.51601, - "map_at_1000": 0.51601, - "recall_at_1": 0.1395, - "recall_at_3": 0.3284, - "recall_at_5": 0.46621, - "recall_at_10": 0.62934, - "recall_at_50": 0.75131, - "recall_at_100": 0.77778, - "recall_at_1000": 0.77778, - "precision_at_1": 0.66649, - "precision_at_3": 0.56706, - "precision_at_5": 0.50107, - "precision_at_10": 0.35699, - "precision_at_50": 0.08539, - "precision_at_100": 0.04382, - "precision_at_1000": 0.00438, - "mrr_at_1": 0.66702, - "mrr_at_3": 0.7492, - "mrr_at_5": 0.75995, - "mrr_at_10": 0.76262, - "mrr_at_50": 0.76381, - "mrr_at_100": 0.76394, - "mrr_at_1000": 0.76394 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.55302, - "ndcg_at_3": 0.51608, - "ndcg_at_5": 0.53571, - "ndcg_at_10": 0.57005, - "ndcg_at_50": 0.60828, - "ndcg_at_100": 0.61264, - "ndcg_at_1000": 0.61264, - "map_at_1": 0.22882, - "map_at_3": 0.37305, - "map_at_5": 0.43019, - "map_at_10": 0.46989, - "map_at_50": 0.48609, - "map_at_100": 0.48682, - "map_at_1000": 0.48682, - "recall_at_1": 0.22882, - "recall_at_3": 0.43849, - "recall_at_5": 0.54481, - "recall_at_10": 0.64209, - "recall_at_50": 0.76676, - "recall_at_100": 0.787, - "recall_at_1000": 0.787, - "precision_at_1": 0.55302, - "precision_at_3": 0.39816, - "precision_at_5": 0.31681, - "precision_at_10": 0.1966, - "precision_at_50": 0.04655, - "precision_at_100": 0.02381, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.55302, - "mrr_at_3": 0.6445, - "mrr_at_5": 0.65619, - "mrr_at_10": 0.66062, - "mrr_at_50": 0.66351, - "mrr_at_100": 0.66364, - "mrr_at_1000": 0.66364 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.51634, - "ndcg_at_3": 0.47386, - "ndcg_at_5": 0.45998, - "ndcg_at_10": 0.48519, - "ndcg_at_50": 0.52707, - "ndcg_at_100": 0.53279, - "ndcg_at_1000": 0.53279, - "map_at_1": 0.13526, - "map_at_3": 0.25766, - "map_at_5": 0.31533, - "map_at_10": 0.37176, - "map_at_50": 0.39338, - "map_at_100": 0.39437, - "map_at_1000": 0.39437, - "recall_at_1": 0.13526, - "recall_at_3": 0.30238, - "recall_at_5": 0.39746, - "recall_at_10": 0.50955, - "recall_at_50": 0.62288, - "recall_at_100": 0.64606, - "recall_at_1000": 0.64606, - "precision_at_1": 0.51634, - "precision_at_3": 0.42881, - "precision_at_5": 0.35767, - "precision_at_10": 0.24133, - "precision_at_50": 0.05943, - "precision_at_100": 0.0306, - "precision_at_1000": 0.00306, - "mrr_at_1": 0.51801, - "mrr_at_3": 0.6157, - "mrr_at_5": 0.62888, - "mrr_at_10": 0.63341, - "mrr_at_50": 0.63541, - "mrr_at_100": 0.63559, - "mrr_at_1000": 0.63559 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.54322, - "ndcg_at_3": 0.54877, - "ndcg_at_5": 0.56782, - "ndcg_at_10": 0.59352, - "ndcg_at_50": 0.61159, - "ndcg_at_100": 0.61321, - "ndcg_at_1000": 0.61321, - "map_at_1": 0.33069, - "map_at_3": 0.46359, - "map_at_5": 0.50598, - "map_at_10": 0.53798, - "map_at_50": 0.54593, - "map_at_100": 0.54616, - "map_at_1000": 0.54616, - "recall_at_1": 0.33069, - "recall_at_3": 0.51344, - "recall_at_5": 0.59534, - "recall_at_10": 0.67176, - "recall_at_50": 0.73541, - "recall_at_100": 0.74381, - "recall_at_1000": 0.74381, - "precision_at_1": 0.54322, - "precision_at_3": 0.34448, - "precision_at_5": 0.25905, - "precision_at_10": 0.15855, - "precision_at_50": 0.03475, - "precision_at_100": 0.01753, - "precision_at_1000": 0.00175, - "mrr_at_1": 0.54322, - "mrr_at_3": 0.59453, - "mrr_at_5": 0.60441, - "mrr_at_10": 0.60802, - "mrr_at_50": 0.61028, - "mrr_at_100": 0.61037, - "mrr_at_1000": 0.61037 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.76534, - "ndcg_at_3": 0.67293, - "ndcg_at_5": 0.69225, - "ndcg_at_10": 0.72916, - "ndcg_at_50": 0.75232, - "ndcg_at_100": 0.75385, - "ndcg_at_1000": 0.75385, - "map_at_1": 0.39665, - "map_at_3": 0.54128, - "map_at_5": 0.59824, - "map_at_10": 0.63853, - "map_at_50": 0.65065, - "map_at_100": 0.65089, - "map_at_1000": 0.65089, - "recall_at_1": 0.39665, - "recall_at_3": 0.58356, - "recall_at_5": 0.68553, - "recall_at_10": 0.78311, - "recall_at_50": 0.84989, - "recall_at_100": 0.85694, - "recall_at_1000": 0.85694, - "precision_at_1": 0.76534, - "precision_at_3": 0.44987, - "precision_at_5": 0.34413, - "precision_at_10": 0.20905, - "precision_at_50": 0.04665, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.76534, - "mrr_at_3": 0.81944, - "mrr_at_5": 0.82676, - "mrr_at_10": 0.8298, - "mrr_at_50": 0.83071, - "mrr_at_100": 0.83077, - "mrr_at_1000": 0.83077 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.6132, - "ndcg_at_3": 0.59124, - "ndcg_at_5": 0.61885, - "ndcg_at_10": 0.65089, - "ndcg_at_50": 0.67174, - "ndcg_at_100": 0.67399, - "ndcg_at_1000": 0.67399, - "map_at_1": 0.34966, - "map_at_3": 0.48398, - "map_at_5": 0.5332, - "map_at_10": 0.56436, - "map_at_50": 0.57337, - "map_at_100": 0.57372, - "map_at_1000": 0.57372, - "recall_at_1": 0.34966, - "recall_at_3": 0.55131, - "recall_at_5": 0.65022, - "recall_at_10": 0.73441, - "recall_at_50": 0.80225, - "recall_at_100": 0.8129, - "recall_at_1000": 0.8129, - "precision_at_1": 0.6132, - "precision_at_3": 0.38217, - "precision_at_5": 0.2923, - "precision_at_10": 0.17493, - "precision_at_50": 0.03888, - "precision_at_100": 0.01972, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.6132, - "mrr_at_3": 0.69726, - "mrr_at_5": 0.70881, - "mrr_at_10": 0.71314, - "mrr_at_50": 0.7147, - "mrr_at_100": 0.7148, - "mrr_at_1000": 0.7148 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.53091, - "ndcg_at_3": 0.49282, - "ndcg_at_5": 0.508, - "ndcg_at_10": 0.54101, - "ndcg_at_50": 0.57373, - "ndcg_at_100": 0.57691, - "ndcg_at_1000": 0.57691, - "map_at_1": 0.21908, - "map_at_3": 0.34418, - "map_at_5": 0.39838, - "map_at_10": 0.43907, - "map_at_50": 0.45399, - "map_at_100": 0.45453, - "map_at_1000": 0.45453, - "recall_at_1": 0.21908, - "recall_at_3": 0.40638, - "recall_at_5": 0.50905, - "recall_at_10": 0.60642, - "recall_at_50": 0.70697, - "recall_at_100": 0.72196, - "recall_at_1000": 0.72196, - "precision_at_1": 0.53091, - "precision_at_3": 0.38186, - "precision_at_5": 0.30572, - "precision_at_10": 0.1933, - "precision_at_50": 0.04538, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.53091, - "mrr_at_3": 0.62546, - "mrr_at_5": 0.63603, - "mrr_at_10": 0.64085, - "mrr_at_50": 0.64302, - "mrr_at_100": 0.64313, - "mrr_at_1000": 0.64313 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.65359, - "ndcg_at_3": 0.60479, - "ndcg_at_5": 0.61508, - "ndcg_at_10": 0.6486, - "ndcg_at_50": 0.68063, - "ndcg_at_100": 0.68366, - "ndcg_at_1000": 0.68366, - "map_at_1": 0.25739, - "map_at_3": 0.41281, - "map_at_5": 0.48481, - "map_at_10": 0.5496, - "map_at_50": 0.56798, - "map_at_100": 0.56858, - "map_at_1000": 0.56858, - "recall_at_1": 0.25739, - "recall_at_3": 0.45983, - "recall_at_5": 0.57952, - "recall_at_10": 0.70132, - "recall_at_50": 0.78949, - "recall_at_100": 0.80204, - "recall_at_1000": 0.80204, - "precision_at_1": 0.65359, - "precision_at_3": 0.48089, - "precision_at_5": 0.39739, - "precision_at_10": 0.26352, - "precision_at_50": 0.06069, - "precision_at_100": 0.0308, - "precision_at_1000": 0.00308, - "mrr_at_1": 0.65359, - "mrr_at_3": 0.73024, - "mrr_at_5": 0.7415, - "mrr_at_10": 0.74498, - "mrr_at_50": 0.74637, - "mrr_at_100": 0.74645, - "mrr_at_1000": 0.74645 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.56239, - "ndcg_at_3": 0.55104, - "ndcg_at_5": 0.56018, - "ndcg_at_10": 0.59476, - "ndcg_at_50": 0.62519, - "ndcg_at_100": 0.62794, - "ndcg_at_1000": 0.62794, - "map_at_1": 0.26674, - "map_at_3": 0.39468, - "map_at_5": 0.44701, - "map_at_10": 0.49695, - "map_at_50": 0.51205, - "map_at_100": 0.5126, - "map_at_1000": 0.5126, - "recall_at_1": 0.26674, - "recall_at_3": 0.45738, - "recall_at_5": 0.55289, - "recall_at_10": 0.66601, - "recall_at_50": 0.7545, - "recall_at_100": 0.76576, - "recall_at_1000": 0.76576, - "precision_at_1": 0.56239, - "precision_at_3": 0.40168, - "precision_at_5": 0.32302, - "precision_at_10": 0.21236, - "precision_at_50": 0.04951, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.56239, - "mrr_at_3": 0.65554, - "mrr_at_5": 0.66778, - "mrr_at_10": 0.67376, - "mrr_at_50": 0.67587, - "mrr_at_100": 0.67593, - "mrr_at_1000": 0.67593 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65896, - "ndcg_at_3": 0.6275, - "ndcg_at_5": 0.6394, - "ndcg_at_10": 0.70105, - "ndcg_at_50": 0.73988, - "ndcg_at_100": 0.74558, - "ndcg_at_1000": 0.74558, - "map_at_1": 0.21716, - "map_at_3": 0.40923, - "map_at_5": 0.5009, - "map_at_10": 0.58903, - "map_at_50": 0.61278, - "map_at_100": 0.61357, - "map_at_1000": 0.61357, - "recall_at_1": 0.21716, - "recall_at_3": 0.46574, - "recall_at_5": 0.61338, - "recall_at_10": 0.78959, - "recall_at_50": 0.89723, - "recall_at_100": 0.92765, - "recall_at_1000": 0.92765, - "precision_at_1": 0.65896, - "precision_at_3": 0.53757, - "precision_at_5": 0.44971, - "precision_at_10": 0.30751, - "precision_at_50": 0.07029, - "precision_at_100": 0.03566, - "precision_at_1000": 0.00357, - "mrr_at_1": 0.65896, - "mrr_at_3": 0.75819, - "mrr_at_5": 0.76888, - "mrr_at_10": 0.77295, - "mrr_at_50": 0.77396, - "mrr_at_100": 0.77432, - "mrr_at_1000": 0.77432 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.70871, - "ndcg_at_3": 0.65462, - "ndcg_at_5": 0.65277, - "ndcg_at_10": 0.70977, - "ndcg_at_50": 0.75415, - "ndcg_at_100": 0.75739, - "ndcg_at_1000": 0.75739, - "map_at_1": 0.2052, - "map_at_3": 0.40023, - "map_at_5": 0.49829, - "map_at_10": 0.60203, - "map_at_50": 0.62972, - "map_at_100": 0.63024, - "map_at_1000": 0.63024, - "recall_at_1": 0.2052, - "recall_at_3": 0.44637, - "recall_at_5": 0.58866, - "recall_at_10": 0.77599, - "recall_at_50": 0.90173, - "recall_at_100": 0.91717, - "recall_at_1000": 0.91717, - "precision_at_1": 0.70871, - "precision_at_3": 0.58058, - "precision_at_5": 0.49249, - "precision_at_10": 0.34685, - "precision_at_50": 0.08, - "precision_at_100": 0.04036, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.70871, - "mrr_at_3": 0.77928, - "mrr_at_5": 0.78664, - "mrr_at_10": 0.79214, - "mrr_at_50": 0.79345, - "mrr_at_100": 0.79354, - "mrr_at_1000": 0.79354 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71598, - "ndcg_at_3": 0.66335, - "ndcg_at_5": 0.66041, - "ndcg_at_10": 0.70915, - "ndcg_at_50": 0.74882, - "ndcg_at_100": 0.7523, - "ndcg_at_1000": 0.7523, - "map_at_1": 0.21413, - "map_at_3": 0.41284, - "map_at_5": 0.50753, - "map_at_10": 0.60621, - "map_at_50": 0.62993, - "map_at_100": 0.63057, - "map_at_1000": 0.63057, - "recall_at_1": 0.21413, - "recall_at_3": 0.4463, - "recall_at_5": 0.58839, - "recall_at_10": 0.77011, - "recall_at_50": 0.88323, - "recall_at_100": 0.89912, - "recall_at_1000": 0.89912, - "precision_at_1": 0.71598, - "precision_at_3": 0.57692, - "precision_at_5": 0.48521, - "precision_at_10": 0.33846, - "precision_at_50": 0.07722, - "precision_at_100": 0.03908, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.71598, - "mrr_at_3": 0.7786, - "mrr_at_5": 0.78851, - "mrr_at_10": 0.79349, - "mrr_at_50": 0.79491, - "mrr_at_100": 0.795, - "mrr_at_1000": 0.795 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.73156, - "ndcg_at_3": 0.67677, - "ndcg_at_5": 0.69169, - "ndcg_at_10": 0.75003, - "ndcg_at_50": 0.7898, - "ndcg_at_100": 0.79237, - "ndcg_at_1000": 0.79237, - "map_at_1": 0.24228, - "map_at_3": 0.46238, - "map_at_5": 0.5579, - "map_at_10": 0.6451, - "map_at_50": 0.66845, - "map_at_100": 0.66891, - "map_at_1000": 0.66891, - "recall_at_1": 0.24228, - "recall_at_3": 0.51128, - "recall_at_5": 0.66351, - "recall_at_10": 0.83305, - "recall_at_50": 0.94466, - "recall_at_100": 0.95626, - "recall_at_1000": 0.95626, - "precision_at_1": 0.73156, - "precision_at_3": 0.5821, - "precision_at_5": 0.47906, - "precision_at_10": 0.32153, - "precision_at_50": 0.07369, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.73156, - "mrr_at_3": 0.80187, - "mrr_at_5": 0.81559, - "mrr_at_10": 0.81811, - "mrr_at_50": 0.81956, - "mrr_at_100": 0.81956, - "mrr_at_1000": 0.81956 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.81522, - "ndcg_at_3": 0.73789, - "ndcg_at_5": 0.74693, - "ndcg_at_10": 0.80104, - "ndcg_at_50": 0.83949, - "ndcg_at_100": 0.84236, - "ndcg_at_1000": 0.84236, - "map_at_1": 0.29785, - "map_at_3": 0.50425, - "map_at_5": 0.60738, - "map_at_10": 0.70111, - "map_at_50": 0.72584, - "map_at_100": 0.72653, - "map_at_1000": 0.72653, - "recall_at_1": 0.29785, - "recall_at_3": 0.53744, - "recall_at_5": 0.69374, - "recall_at_10": 0.8568, - "recall_at_50": 0.96102, - "recall_at_100": 0.97235, - "recall_at_1000": 0.97235, - "precision_at_1": 0.81522, - "precision_at_3": 0.60145, - "precision_at_5": 0.50652, - "precision_at_10": 0.34103, - "precision_at_50": 0.07761, - "precision_at_100": 0.03927, - "precision_at_1000": 0.00393, - "mrr_at_1": 0.81522, - "mrr_at_3": 0.87636, - "mrr_at_5": 0.88193, - "mrr_at_10": 0.88238, - "mrr_at_50": 0.88328, - "mrr_at_100": 0.88332, - "mrr_at_1000": 0.88332 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.63988, - "ndcg_at_3": 0.59541, - "ndcg_at_5": 0.61446, - "ndcg_at_10": 0.66188, - "ndcg_at_50": 0.69244, - "ndcg_at_100": 0.69604, - "ndcg_at_1000": 0.69604, - "map_at_1": 0.26601, - "map_at_3": 0.44577, - "map_at_5": 0.51652, - "map_at_10": 0.57348, - "map_at_50": 0.5876, - "map_at_100": 0.58824, - "map_at_1000": 0.58824, - "recall_at_1": 0.26601, - "recall_at_3": 0.49126, - "recall_at_5": 0.61095, - "recall_at_10": 0.73637, - "recall_at_50": 0.83564, - "recall_at_100": 0.85298, - "recall_at_1000": 0.85298, - "precision_at_1": 0.63988, - "precision_at_3": 0.4623, - "precision_at_5": 0.37202, - "precision_at_10": 0.24167, - "precision_at_50": 0.05446, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.63988, - "mrr_at_3": 0.70486, - "mrr_at_5": 0.71691, - "mrr_at_10": 0.72135, - "mrr_at_50": 0.7234, - "mrr_at_100": 0.72355, - "mrr_at_1000": 0.72355 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.64225, - "ndcg_at_3": 0.59957, - "ndcg_at_5": 0.6317, - "ndcg_at_10": 0.70086, - "ndcg_at_50": 0.73519, - "ndcg_at_100": 0.73776, - "ndcg_at_1000": 0.73776, - "map_at_1": 0.30154, - "map_at_3": 0.46529, - "map_at_5": 0.5275, - "map_at_10": 0.58898, - "map_at_50": 0.60557, - "map_at_100": 0.60602, - "map_at_1000": 0.60602, - "recall_at_1": 0.30154, - "recall_at_3": 0.53961, - "recall_at_5": 0.66612, - "recall_at_10": 0.82533, - "recall_at_50": 0.93345, - "recall_at_100": 0.94563, - "recall_at_1000": 0.94563, - "precision_at_1": 0.64225, - "precision_at_3": 0.44038, - "precision_at_5": 0.34366, - "precision_at_10": 0.22789, - "precision_at_50": 0.05166, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.64225, - "mrr_at_3": 0.73803, - "mrr_at_5": 0.75183, - "mrr_at_10": 0.75611, - "mrr_at_50": 0.75848, - "mrr_at_100": 0.75857, - "mrr_at_1000": 0.75857 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.66387, - "ndcg_at_3": 0.6067, - "ndcg_at_5": 0.63563, - "ndcg_at_10": 0.699, - "ndcg_at_50": 0.73654, - "ndcg_at_100": 0.73826, - "ndcg_at_1000": 0.73826, - "map_at_1": 0.3042, - "map_at_3": 0.47551, - "map_at_5": 0.53324, - "map_at_10": 0.58784, - "map_at_50": 0.60542, - "map_at_100": 0.6057, - "map_at_1000": 0.6057, - "recall_at_1": 0.3042, - "recall_at_3": 0.54864, - "recall_at_5": 0.66847, - "recall_at_10": 0.81482, - "recall_at_50": 0.93162, - "recall_at_100": 0.94029, - "recall_at_1000": 0.94029, - "precision_at_1": 0.66387, - "precision_at_3": 0.43791, - "precision_at_5": 0.33669, - "precision_at_10": 0.21737, - "precision_at_50": 0.0507, - "precision_at_100": 0.02555, - "precision_at_1000": 0.00255, - "mrr_at_1": 0.66387, - "mrr_at_3": 0.74883, - "mrr_at_5": 0.76256, - "mrr_at_10": 0.76668, - "mrr_at_50": 0.76889, - "mrr_at_100": 0.76896, - "mrr_at_1000": 0.76896 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.68817, - "ndcg_at_3": 0.63338, - "ndcg_at_5": 0.65119, - "ndcg_at_10": 0.70049, - "ndcg_at_50": 0.73603, - "ndcg_at_100": 0.7399, - "ndcg_at_1000": 0.7399, - "map_at_1": 0.35399, - "map_at_3": 0.50888, - "map_at_5": 0.55979, - "map_at_10": 0.60321, - "map_at_50": 0.61943, - "map_at_100": 0.62007, - "map_at_1000": 0.62007, - "recall_at_1": 0.35399, - "recall_at_3": 0.56509, - "recall_at_5": 0.66432, - "recall_at_10": 0.77347, - "recall_at_50": 0.88476, - "recall_at_100": 0.90235, - "recall_at_1000": 0.90235, - "precision_at_1": 0.68817, - "precision_at_3": 0.43369, - "precision_at_5": 0.32688, - "precision_at_10": 0.2043, - "precision_at_50": 0.04769, - "precision_at_100": 0.02433, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.68817, - "mrr_at_3": 0.76837, - "mrr_at_5": 0.77832, - "mrr_at_10": 0.78174, - "mrr_at_50": 0.78368, - "mrr_at_100": 0.78378, - "mrr_at_1000": 0.78378 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.63388, - "ndcg_at_3": 0.57193, - "ndcg_at_5": 0.59301, - "ndcg_at_10": 0.66272, - "ndcg_at_50": 0.69886, - "ndcg_at_100": 0.7053, - "ndcg_at_1000": 0.7053, - "map_at_1": 0.26129, - "map_at_3": 0.42058, - "map_at_5": 0.4878, - "map_at_10": 0.5591, - "map_at_50": 0.57503, - "map_at_100": 0.57594, - "map_at_1000": 0.57594, - "recall_at_1": 0.26129, - "recall_at_3": 0.4689, - "recall_at_5": 0.58679, - "recall_at_10": 0.75734, - "recall_at_50": 0.87686, - "recall_at_100": 0.90892, - "recall_at_1000": 0.90892, - "precision_at_1": 0.63388, - "precision_at_3": 0.4408, - "precision_at_5": 0.36066, - "precision_at_10": 0.24672, - "precision_at_50": 0.05617, - "precision_at_100": 0.0288, - "precision_at_1000": 0.00288, - "mrr_at_1": 0.63388, - "mrr_at_3": 0.70674, - "mrr_at_5": 0.71958, - "mrr_at_10": 0.72656, - "mrr_at_50": 0.72875, - "mrr_at_100": 0.72907, - "mrr_at_1000": 0.72907 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.56486, - "ndcg_at_3": 0.56478, - "ndcg_at_5": 0.61048, - "ndcg_at_10": 0.68229, - "ndcg_at_50": 0.72053, - "ndcg_at_100": 0.72322, - "ndcg_at_1000": 0.72322, - "map_at_1": 0.32305, - "map_at_3": 0.46611, - "map_at_5": 0.52146, - "map_at_10": 0.5781, - "map_at_50": 0.59436, - "map_at_100": 0.59478, - "map_at_1000": 0.59478, - "recall_at_1": 0.32305, - "recall_at_3": 0.54239, - "recall_at_5": 0.67171, - "recall_at_10": 0.83575, - "recall_at_50": 0.96617, - "recall_at_100": 0.97991, - "recall_at_1000": 0.97991, - "precision_at_1": 0.56486, - "precision_at_3": 0.37297, - "precision_at_5": 0.29568, - "precision_at_10": 0.19946, - "precision_at_50": 0.04611, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.56486, - "mrr_at_3": 0.67027, - "mrr_at_5": 0.68743, - "mrr_at_10": 0.69421, - "mrr_at_50": 0.69719, - "mrr_at_100": 0.69733, - "mrr_at_1000": 0.69733 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.44479, - "ndcg_at_3": 0.48044, - "ndcg_at_5": 0.53291, - "ndcg_at_10": 0.59566, - "ndcg_at_50": 0.6374, - "ndcg_at_100": 0.64132, - "ndcg_at_1000": 0.64132, - "map_at_1": 0.27227, - "map_at_3": 0.40498, - "map_at_5": 0.44977, - "map_at_10": 0.49497, - "map_at_50": 0.50978, - "map_at_100": 0.51031, - "map_at_1000": 0.51031, - "recall_at_1": 0.27227, - "recall_at_3": 0.50538, - "recall_at_5": 0.63015, - "recall_at_10": 0.77729, - "recall_at_50": 0.932, - "recall_at_100": 0.95245, - "recall_at_1000": 0.95245, - "precision_at_1": 0.44479, - "precision_at_3": 0.29755, - "precision_at_5": 0.2362, - "precision_at_10": 0.15706, - "precision_at_50": 0.03681, - "precision_at_100": 0.01877, - "precision_at_1000": 0.00188, - "mrr_at_1": 0.44479, - "mrr_at_3": 0.5547, - "mrr_at_5": 0.57863, - "mrr_at_10": 0.58714, - "mrr_at_50": 0.59243, - "mrr_at_100": 0.59256, - "mrr_at_1000": 0.59256 - }, - "gpt3": { - "ndcg_at_1": 0.41543, - "ndcg_at_3": 0.49496, - "ndcg_at_5": 0.53506, - "ndcg_at_10": 0.57499, - "ndcg_at_50": 0.62361, - "ndcg_at_100": 0.62889, - "ndcg_at_1000": 0.62889, - "map_at_1": 0.32196, - "map_at_3": 0.44119, - "map_at_5": 0.46966, - "map_at_10": 0.49016, - "map_at_50": 0.505, - "map_at_100": 0.50561, - "map_at_1000": 0.50561, - "recall_at_1": 0.32196, - "recall_at_3": 0.55762, - "recall_at_5": 0.64392, - "recall_at_10": 0.74901, - "recall_at_50": 0.93867, - "recall_at_100": 0.9686, - "recall_at_1000": 0.9686, - "precision_at_1": 0.41543, - "precision_at_3": 0.25321, - "precision_at_5": 0.1822, - "precision_at_10": 0.1095, - "precision_at_50": 0.02772, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.41543, - "mrr_at_3": 0.53116, - "mrr_at_5": 0.54792, - "mrr_at_10": 0.56011, - "mrr_at_50": 0.56717, - "mrr_at_100": 0.56755, - "mrr_at_1000": 0.56755 - }, - "llm-survey": { - "ndcg_at_1": 0.48179, - "ndcg_at_3": 0.47162, - "ndcg_at_5": 0.5046, - "ndcg_at_10": 0.56388, - "ndcg_at_50": 0.61792, - "ndcg_at_100": 0.62223, - "ndcg_at_1000": 0.62223, - "map_at_1": 0.22144, - "map_at_3": 0.36054, - "map_at_5": 0.41232, - "map_at_10": 0.46212, - "map_at_50": 0.48373, - "map_at_100": 0.48429, - "map_at_1000": 0.48429, - "recall_at_1": 0.22144, - "recall_at_3": 0.42475, - "recall_at_5": 0.53586, - "recall_at_10": 0.68471, - "recall_at_50": 0.87297, - "recall_at_100": 0.89631, - "recall_at_1000": 0.89631, - "precision_at_1": 0.48179, - "precision_at_3": 0.35668, - "precision_at_5": 0.28291, - "precision_at_10": 0.18711, - "precision_at_50": 0.04667, - "precision_at_100": 0.02373, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.48179, - "mrr_at_3": 0.5803, - "mrr_at_5": 0.59402, - "mrr_at_10": 0.60357, - "mrr_at_50": 0.60797, - "mrr_at_100": 0.60815, - "mrr_at_1000": 0.60815 - }, - "gemini": { - "ndcg_at_1": 0.38956, - "ndcg_at_3": 0.52801, - "ndcg_at_5": 0.55619, - "ndcg_at_10": 0.57817, - "ndcg_at_50": 0.61892, - "ndcg_at_100": 0.62296, - "ndcg_at_1000": 0.62296, - "map_at_1": 0.38956, - "map_at_3": 0.49398, - "map_at_5": 0.50964, - "map_at_10": 0.51866, - "map_at_50": 0.5278, - "map_at_100": 0.52819, - "map_at_1000": 0.52819, - "recall_at_1": 0.38956, - "recall_at_3": 0.62651, - "recall_at_5": 0.69478, - "recall_at_10": 0.76305, - "recall_at_50": 0.94378, - "recall_at_100": 0.96787, - "recall_at_1000": 0.96787, - "precision_at_1": 0.38956, - "precision_at_3": 0.20884, - "precision_at_5": 0.13896, - "precision_at_10": 0.07631, - "precision_at_50": 0.01888, - "precision_at_100": 0.00968, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.38956, - "mrr_at_3": 0.49398, - "mrr_at_5": 0.50984, - "mrr_at_10": 0.51886, - "mrr_at_50": 0.528, - "mrr_at_100": 0.52839, - "mrr_at_1000": 0.52839 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.72963, - "ndcg_at_3": 0.64261, - "ndcg_at_5": 0.64438, - "ndcg_at_10": 0.6849, - "ndcg_at_50": 0.74833, - "ndcg_at_100": 0.75522, - "ndcg_at_1000": 0.7624, - "map_at_1": 0.30372, - "map_at_3": 0.46704, - "map_at_5": 0.53037, - "map_at_10": 0.58294, - "map_at_50": 0.61644, - "map_at_100": 0.61776, - "map_at_1000": 0.61829, - "recall_at_1": 0.30372, - "recall_at_3": 0.5097, - "recall_at_5": 0.61477, - "recall_at_10": 0.73783, - "recall_at_50": 0.91879, - "recall_at_100": 0.94907, - "recall_at_1000": 0.99334, - "precision_at_1": 0.72963, - "precision_at_3": 0.48311, - "precision_at_5": 0.37621, - "precision_at_10": 0.24146, - "precision_at_50": 0.06274, - "precision_at_100": 0.03234, - "precision_at_1000": 0.00334, - "mrr_at_1": 0.72963, - "mrr_at_3": 0.78809, - "mrr_at_5": 0.79489, - "mrr_at_10": 0.79952, - "mrr_at_50": 0.80186, - "mrr_at_100": 0.80201, - "mrr_at_1000": 0.80211 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.26208, - "ndcg_at_3": 0.23884, - "ndcg_at_5": 0.24529, - "ndcg_at_10": 0.26678, - "ndcg_at_50": 0.32293, - "ndcg_at_100": 0.33829, - "ndcg_at_1000": 0.37364, - "map_at_1": 0.10056, - "map_at_3": 0.15582, - "map_at_5": 0.17897, - "map_at_10": 0.20295, - "map_at_50": 0.22463, - "map_at_100": 0.22701, - "map_at_1000": 0.229, - "recall_at_1": 0.10056, - "recall_at_3": 0.1901, - "recall_at_5": 0.24093, - "recall_at_10": 0.30959, - "recall_at_50": 0.47903, - "recall_at_100": 0.54393, - "recall_at_1000": 0.76163, - "precision_at_1": 0.26208, - "precision_at_3": 0.18175, - "precision_at_5": 0.14847, - "precision_at_10": 0.10472, - "precision_at_50": 0.034, - "precision_at_100": 0.01941, - "precision_at_1000": 0.00256, - "mrr_at_1": 0.26208, - "mrr_at_3": 0.31973, - "mrr_at_5": 0.33072, - "mrr_at_10": 0.33822, - "mrr_at_50": 0.34542, - "mrr_at_100": 0.34604, - "mrr_at_1000": 0.34657 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.40424, - "ndcg_at_3": 0.37958, - "ndcg_at_5": 0.37675, - "ndcg_at_10": 0.40752, - "ndcg_at_50": 0.489, - "ndcg_at_100": 0.50966, - "ndcg_at_1000": 0.54239, - "map_at_1": 0.12406, - "map_at_3": 0.21563, - "map_at_5": 0.25836, - "map_at_10": 0.30185, - "map_at_50": 0.33908, - "map_at_100": 0.34296, - "map_at_1000": 0.34552, - "recall_at_1": 0.12406, - "recall_at_3": 0.25523, - "recall_at_5": 0.33613, - "recall_at_10": 0.45391, - "recall_at_50": 0.67374, - "recall_at_100": 0.75401, - "recall_at_1000": 0.92366, - "precision_at_1": 0.40424, - "precision_at_3": 0.32842, - "precision_at_5": 0.27578, - "precision_at_10": 0.19546, - "precision_at_50": 0.06136, - "precision_at_100": 0.03423, - "precision_at_1000": 0.00412, - "mrr_at_1": 0.40424, - "mrr_at_3": 0.49568, - "mrr_at_5": 0.51389, - "mrr_at_10": 0.52525, - "mrr_at_50": 0.53112, - "mrr_at_100": 0.53167, - "mrr_at_1000": 0.53189 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.45415, - "ndcg_at_3": 0.44616, - "ndcg_at_5": 0.4549, - "ndcg_at_10": 0.48039, - "ndcg_at_50": 0.54676, - "ndcg_at_100": 0.56236, - "ndcg_at_1000": 0.58473, - "map_at_1": 0.202, - "map_at_3": 0.31102, - "map_at_5": 0.35391, - "map_at_10": 0.39604, - "map_at_50": 0.42775, - "map_at_100": 0.43057, - "map_at_1000": 0.43214, - "recall_at_1": 0.202, - "recall_at_3": 0.36012, - "recall_at_5": 0.44155, - "recall_at_10": 0.5385, - "recall_at_50": 0.72522, - "recall_at_100": 0.78843, - "recall_at_1000": 0.91297, - "precision_at_1": 0.45415, - "precision_at_3": 0.3323, - "precision_at_5": 0.27237, - "precision_at_10": 0.18717, - "precision_at_50": 0.05446, - "precision_at_100": 0.02978, - "precision_at_1000": 0.0034, - "mrr_at_1": 0.45415, - "mrr_at_3": 0.53098, - "mrr_at_5": 0.54842, - "mrr_at_10": 0.55636, - "mrr_at_50": 0.56174, - "mrr_at_100": 0.56215, - "mrr_at_1000": 0.56244 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.59677, - "ndcg_at_3": 0.54326, - "ndcg_at_5": 0.52512, - "ndcg_at_10": 0.54405, - "ndcg_at_50": 0.63302, - "ndcg_at_100": 0.64843, - "ndcg_at_1000": 0.66905, - "map_at_1": 0.16915, - "map_at_3": 0.30583, - "map_at_5": 0.36803, - "map_at_10": 0.43433, - "map_at_50": 0.48374, - "map_at_100": 0.48714, - "map_at_1000": 0.48901, - "recall_at_1": 0.16915, - "recall_at_3": 0.34002, - "recall_at_5": 0.43443, - "recall_at_10": 0.56789, - "recall_at_50": 0.79351, - "recall_at_100": 0.85061, - "recall_at_1000": 0.95494, - "precision_at_1": 0.59677, - "precision_at_3": 0.47017, - "precision_at_5": 0.39098, - "precision_at_10": 0.27705, - "precision_at_50": 0.08155, - "precision_at_100": 0.04369, - "precision_at_1000": 0.00483, - "mrr_at_1": 0.59677, - "mrr_at_3": 0.66875, - "mrr_at_5": 0.68089, - "mrr_at_10": 0.68796, - "mrr_at_50": 0.69186, - "mrr_at_100": 0.69208, - "mrr_at_1000": 0.69221 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.5048, - "ndcg_at_3": 0.43111, - "ndcg_at_5": 0.40299, - "ndcg_at_10": 0.42379, - "ndcg_at_50": 0.5231, - "ndcg_at_100": 0.54789, - "ndcg_at_1000": 0.58142, - "map_at_1": 0.10433, - "map_at_3": 0.19558, - "map_at_5": 0.24292, - "map_at_10": 0.29843, - "map_at_50": 0.3468, - "map_at_100": 0.35217, - "map_at_1000": 0.35525, - "recall_at_1": 0.10433, - "recall_at_3": 0.22551, - "recall_at_5": 0.30821, - "recall_at_10": 0.43617, - "recall_at_50": 0.68743, - "recall_at_100": 0.77778, - "recall_at_1000": 0.9412, - "precision_at_1": 0.5048, - "precision_at_3": 0.39506, - "precision_at_5": 0.33362, - "precision_at_10": 0.24418, - "precision_at_50": 0.07822, - "precision_at_100": 0.04382, - "precision_at_1000": 0.00517, - "mrr_at_1": 0.5048, - "mrr_at_3": 0.58645, - "mrr_at_5": 0.60264, - "mrr_at_10": 0.61288, - "mrr_at_50": 0.61806, - "mrr_at_100": 0.61833, - "mrr_at_1000": 0.61848 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.49443, - "ndcg_at_3": 0.44399, - "ndcg_at_5": 0.45728, - "ndcg_at_10": 0.491, - "ndcg_at_50": 0.54667, - "ndcg_at_100": 0.56058, - "ndcg_at_1000": 0.58361, - "map_at_1": 0.21796, - "map_at_3": 0.32953, - "map_at_5": 0.3666, - "map_at_10": 0.39644, - "map_at_50": 0.41807, - "map_at_100": 0.42032, - "map_at_1000": 0.42185, - "recall_at_1": 0.21796, - "recall_at_3": 0.37938, - "recall_at_5": 0.46357, - "recall_at_10": 0.55593, - "recall_at_50": 0.72484, - "recall_at_100": 0.787, - "recall_at_1000": 0.92259, - "precision_at_1": 0.49443, - "precision_at_3": 0.32416, - "precision_at_5": 0.24745, - "precision_at_10": 0.15753, - "precision_at_50": 0.04381, - "precision_at_100": 0.02381, - "precision_at_1000": 0.00278, - "mrr_at_1": 0.49443, - "mrr_at_3": 0.57001, - "mrr_at_5": 0.58497, - "mrr_at_10": 0.59311, - "mrr_at_50": 0.59799, - "mrr_at_100": 0.59835, - "mrr_at_1000": 0.59862 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.36066, - "ndcg_at_3": 0.30858, - "ndcg_at_5": 0.29764, - "ndcg_at_10": 0.32177, - "ndcg_at_50": 0.40174, - "ndcg_at_100": 0.42304, - "ndcg_at_1000": 0.46089, - "map_at_1": 0.09443, - "map_at_3": 0.15873, - "map_at_5": 0.18943, - "map_at_10": 0.22317, - "map_at_50": 0.25566, - "map_at_100": 0.25943, - "map_at_1000": 0.26218, - "recall_at_1": 0.09443, - "recall_at_3": 0.18925, - "recall_at_5": 0.25188, - "recall_at_10": 0.34651, - "recall_at_50": 0.56424, - "recall_at_100": 0.64606, - "recall_at_1000": 0.84259, - "precision_at_1": 0.36066, - "precision_at_3": 0.27091, - "precision_at_5": 0.22526, - "precision_at_10": 0.16094, - "precision_at_50": 0.05376, - "precision_at_100": 0.0306, - "precision_at_1000": 0.00388, - "mrr_at_1": 0.36066, - "mrr_at_3": 0.43536, - "mrr_at_5": 0.45354, - "mrr_at_10": 0.46458, - "mrr_at_50": 0.47238, - "mrr_at_100": 0.47292, - "mrr_at_1000": 0.47323 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.46751, - "ndcg_at_3": 0.47685, - "ndcg_at_5": 0.49168, - "ndcg_at_10": 0.51518, - "ndcg_at_50": 0.55125, - "ndcg_at_100": 0.55876, - "ndcg_at_1000": 0.57512, - "map_at_1": 0.29335, - "map_at_3": 0.40399, - "map_at_5": 0.43398, - "map_at_10": 0.45748, - "map_at_50": 0.47253, - "map_at_100": 0.47362, - "map_at_1000": 0.47432, - "recall_at_1": 0.29335, - "recall_at_3": 0.45554, - "recall_at_5": 0.52159, - "recall_at_10": 0.58889, - "recall_at_50": 0.7063, - "recall_at_100": 0.74381, - "recall_at_1000": 0.86452, - "precision_at_1": 0.46751, - "precision_at_3": 0.2877, - "precision_at_5": 0.21148, - "precision_at_10": 0.13022, - "precision_at_50": 0.03332, - "precision_at_100": 0.01753, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.46751, - "mrr_at_3": 0.52671, - "mrr_at_5": 0.53554, - "mrr_at_10": 0.5404, - "mrr_at_50": 0.54377, - "mrr_at_100": 0.54413, - "mrr_at_1000": 0.54446 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.6897, - "ndcg_at_3": 0.58203, - "ndcg_at_5": 0.58962, - "ndcg_at_10": 0.62358, - "ndcg_at_50": 0.67056, - "ndcg_at_100": 0.68187, - "ndcg_at_1000": 0.69981, - "map_at_1": 0.36296, - "map_at_3": 0.46238, - "map_at_5": 0.49664, - "map_at_10": 0.52539, - "map_at_50": 0.54531, - "map_at_100": 0.54731, - "map_at_1000": 0.54856, - "recall_at_1": 0.36296, - "recall_at_3": 0.50579, - "recall_at_5": 0.57882, - "recall_at_10": 0.66857, - "recall_at_50": 0.80906, - "recall_at_100": 0.85694, - "recall_at_1000": 0.95927, - "precision_at_1": 0.6897, - "precision_at_3": 0.36847, - "precision_at_5": 0.26861, - "precision_at_10": 0.16587, - "precision_at_50": 0.04368, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00269, - "mrr_at_1": 0.6897, - "mrr_at_3": 0.74856, - "mrr_at_5": 0.75889, - "mrr_at_10": 0.76442, - "mrr_at_50": 0.76652, - "mrr_at_100": 0.76665, - "mrr_at_1000": 0.76674 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.62768, - "ndcg_at_3": 0.56502, - "ndcg_at_5": 0.57672, - "ndcg_at_10": 0.60489, - "ndcg_at_50": 0.64229, - "ndcg_at_100": 0.6511, - "ndcg_at_1000": 0.66759, - "map_at_1": 0.36792, - "map_at_3": 0.47094, - "map_at_5": 0.49976, - "map_at_10": 0.52249, - "map_at_50": 0.53766, - "map_at_100": 0.53909, - "map_at_1000": 0.54018, - "recall_at_1": 0.36792, - "recall_at_3": 0.51966, - "recall_at_5": 0.58343, - "recall_at_10": 0.65919, - "recall_at_50": 0.77474, - "recall_at_100": 0.8129, - "recall_at_1000": 0.90887, - "precision_at_1": 0.62768, - "precision_at_3": 0.34009, - "precision_at_5": 0.24285, - "precision_at_10": 0.14586, - "precision_at_50": 0.03693, - "precision_at_100": 0.01972, - "precision_at_1000": 0.00227, - "mrr_at_1": 0.62768, - "mrr_at_3": 0.68964, - "mrr_at_5": 0.69913, - "mrr_at_10": 0.70433, - "mrr_at_50": 0.70727, - "mrr_at_100": 0.70749, - "mrr_at_1000": 0.70761 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.43096, - "ndcg_at_3": 0.37391, - "ndcg_at_5": 0.37848, - "ndcg_at_10": 0.40762, - "ndcg_at_50": 0.46944, - "ndcg_at_100": 0.48671, - "ndcg_at_1000": 0.51931, - "map_at_1": 0.18304, - "map_at_3": 0.26181, - "map_at_5": 0.28938, - "map_at_10": 0.31431, - "map_at_50": 0.33736, - "map_at_100": 0.34024, - "map_at_1000": 0.34247, - "recall_at_1": 0.18304, - "recall_at_3": 0.30602, - "recall_at_5": 0.37174, - "recall_at_10": 0.45897, - "recall_at_50": 0.64739, - "recall_at_100": 0.72196, - "recall_at_1000": 0.91189, - "precision_at_1": 0.43096, - "precision_at_3": 0.26998, - "precision_at_5": 0.20843, - "precision_at_10": 0.13605, - "precision_at_50": 0.04107, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00289, - "mrr_at_1": 0.43096, - "mrr_at_3": 0.50135, - "mrr_at_5": 0.51689, - "mrr_at_10": 0.5268, - "mrr_at_50": 0.53228, - "mrr_at_100": 0.53274, - "mrr_at_1000": 0.53305 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.52585, - "ndcg_at_3": 0.48027, - "ndcg_at_5": 0.47588, - "ndcg_at_10": 0.50378, - "ndcg_at_50": 0.57321, - "ndcg_at_100": 0.58807, - "ndcg_at_1000": 0.61093, - "map_at_1": 0.2089, - "map_at_3": 0.31862, - "map_at_5": 0.36034, - "map_at_10": 0.40068, - "map_at_50": 0.43381, - "map_at_100": 0.4366, - "map_at_1000": 0.43829, - "recall_at_1": 0.2089, - "recall_at_3": 0.36437, - "recall_at_5": 0.44348, - "recall_at_10": 0.54972, - "recall_at_50": 0.74149, - "recall_at_100": 0.80204, - "recall_at_1000": 0.92967, - "precision_at_1": 0.52585, - "precision_at_3": 0.36958, - "precision_at_5": 0.29103, - "precision_at_10": 0.19542, - "precision_at_50": 0.05685, - "precision_at_100": 0.0308, - "precision_at_1000": 0.00352, - "mrr_at_1": 0.52585, - "mrr_at_3": 0.60695, - "mrr_at_5": 0.61952, - "mrr_at_10": 0.62825, - "mrr_at_50": 0.63214, - "mrr_at_100": 0.63246, - "mrr_at_1000": 0.63263 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.47452, - "ndcg_at_3": 0.45302, - "ndcg_at_5": 0.44998, - "ndcg_at_10": 0.47348, - "ndcg_at_50": 0.53616, - "ndcg_at_100": 0.55039, - "ndcg_at_1000": 0.57446, - "map_at_1": 0.23193, - "map_at_3": 0.32622, - "map_at_5": 0.35621, - "map_at_10": 0.38536, - "map_at_50": 0.41117, - "map_at_100": 0.41358, - "map_at_1000": 0.41531, - "recall_at_1": 0.23193, - "recall_at_3": 0.37869, - "recall_at_5": 0.44016, - "recall_at_10": 0.52344, - "recall_at_50": 0.7056, - "recall_at_100": 0.76576, - "recall_at_1000": 0.89904, - "precision_at_1": 0.47452, - "precision_at_3": 0.31361, - "precision_at_5": 0.23784, - "precision_at_10": 0.15495, - "precision_at_50": 0.04605, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00298, - "mrr_at_1": 0.47452, - "mrr_at_3": 0.55487, - "mrr_at_5": 0.56744, - "mrr_at_10": 0.576, - "mrr_at_50": 0.58164, - "mrr_at_100": 0.58204, - "mrr_at_1000": 0.58227 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.62717, - "ndcg_at_3": 0.53348, - "ndcg_at_5": 0.53489, - "ndcg_at_10": 0.58091, - "ndcg_at_50": 0.66294, - "ndcg_at_100": 0.67623, - "ndcg_at_1000": 0.68919, - "map_at_1": 0.20713, - "map_at_3": 0.34571, - "map_at_5": 0.40406, - "map_at_10": 0.46011, - "map_at_50": 0.50109, - "map_at_100": 0.50384, - "map_at_1000": 0.50496, - "recall_at_1": 0.20713, - "recall_at_3": 0.38455, - "recall_at_5": 0.49977, - "recall_at_10": 0.64077, - "recall_at_50": 0.87251, - "recall_at_100": 0.92765, - "recall_at_1000": 0.99663, - "precision_at_1": 0.62717, - "precision_at_3": 0.43931, - "precision_at_5": 0.35318, - "precision_at_10": 0.23786, - "precision_at_50": 0.06723, - "precision_at_100": 0.03566, - "precision_at_1000": 0.00382, - "mrr_at_1": 0.62717, - "mrr_at_3": 0.69605, - "mrr_at_5": 0.71614, - "mrr_at_10": 0.72015, - "mrr_at_50": 0.72421, - "mrr_at_100": 0.72439, - "mrr_at_1000": 0.72449 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.63063, - "ndcg_at_3": 0.56255, - "ndcg_at_5": 0.54924, - "ndcg_at_10": 0.59222, - "ndcg_at_50": 0.67841, - "ndcg_at_100": 0.68993, - "ndcg_at_1000": 0.70395, - "map_at_1": 0.18797, - "map_at_3": 0.33501, - "map_at_5": 0.40254, - "map_at_10": 0.4727, - "map_at_50": 0.51986, - "map_at_100": 0.5223, - "map_at_1000": 0.52348, - "recall_at_1": 0.18797, - "recall_at_3": 0.37519, - "recall_at_5": 0.48289, - "recall_at_10": 0.6364, - "recall_at_50": 0.86812, - "recall_at_100": 0.91717, - "recall_at_1000": 0.997, - "precision_at_1": 0.63063, - "precision_at_3": 0.48749, - "precision_at_5": 0.3988, - "precision_at_10": 0.27688, - "precision_at_50": 0.07724, - "precision_at_100": 0.04036, - "precision_at_1000": 0.00428, - "mrr_at_1": 0.63063, - "mrr_at_3": 0.71171, - "mrr_at_5": 0.72222, - "mrr_at_10": 0.72937, - "mrr_at_50": 0.73223, - "mrr_at_100": 0.73252, - "mrr_at_1000": 0.73268 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.64497, - "ndcg_at_3": 0.55962, - "ndcg_at_5": 0.54487, - "ndcg_at_10": 0.57041, - "ndcg_at_50": 0.6573, - "ndcg_at_100": 0.67114, - "ndcg_at_1000": 0.68992, - "map_at_1": 0.18982, - "map_at_3": 0.33359, - "map_at_5": 0.39441, - "map_at_10": 0.45065, - "map_at_50": 0.49564, - "map_at_100": 0.49853, - "map_at_1000": 0.50038, - "recall_at_1": 0.18982, - "recall_at_3": 0.37536, - "recall_at_5": 0.47793, - "recall_at_10": 0.606, - "recall_at_50": 0.8432, - "recall_at_100": 0.89912, - "recall_at_1000": 0.99852, - "precision_at_1": 0.64497, - "precision_at_3": 0.46943, - "precision_at_5": 0.37692, - "precision_at_10": 0.25385, - "precision_at_50": 0.07343, - "precision_at_100": 0.03908, - "precision_at_1000": 0.00426, - "mrr_at_1": 0.64497, - "mrr_at_3": 0.71647, - "mrr_at_5": 0.72623, - "mrr_at_10": 0.73202, - "mrr_at_50": 0.73553, - "mrr_at_100": 0.73578, - "mrr_at_1000": 0.73596 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.66077, - "ndcg_at_3": 0.60396, - "ndcg_at_5": 0.60688, - "ndcg_at_10": 0.65151, - "ndcg_at_50": 0.72154, - "ndcg_at_100": 0.73293, - "ndcg_at_1000": 0.7409, - "map_at_1": 0.22101, - "map_at_3": 0.39856, - "map_at_5": 0.47476, - "map_at_10": 0.53962, - "map_at_50": 0.57667, - "map_at_100": 0.57881, - "map_at_1000": 0.57956, - "recall_at_1": 0.22101, - "recall_at_3": 0.44962, - "recall_at_5": 0.56943, - "recall_at_10": 0.70982, - "recall_at_50": 0.90728, - "recall_at_100": 0.95626, - "recall_at_1000": 1.0, - "precision_at_1": 0.66077, - "precision_at_3": 0.51032, - "precision_at_5": 0.41534, - "precision_at_10": 0.27227, - "precision_at_50": 0.07109, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00386, - "mrr_at_1": 0.66077, - "mrr_at_3": 0.74926, - "mrr_at_5": 0.75546, - "mrr_at_10": 0.76029, - "mrr_at_50": 0.76317, - "mrr_at_100": 0.76345, - "mrr_at_1000": 0.76351 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.70109, - "ndcg_at_3": 0.63387, - "ndcg_at_5": 0.62471, - "ndcg_at_10": 0.66649, - "ndcg_at_50": 0.74631, - "ndcg_at_100": 0.75818, - "ndcg_at_1000": 0.76357, - "map_at_1": 0.24721, - "map_at_3": 0.42397, - "map_at_5": 0.48951, - "map_at_10": 0.55233, - "map_at_50": 0.59685, - "map_at_100": 0.59943, - "map_at_1000": 0.59998, - "recall_at_1": 0.24721, - "recall_at_3": 0.46935, - "recall_at_5": 0.57355, - "recall_at_10": 0.70955, - "recall_at_50": 0.92413, - "recall_at_100": 0.97235, - "recall_at_1000": 1.0, - "precision_at_1": 0.70109, - "precision_at_3": 0.5154, - "precision_at_5": 0.41467, - "precision_at_10": 0.275, - "precision_at_50": 0.07484, - "precision_at_100": 0.03927, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.70109, - "mrr_at_3": 0.77582, - "mrr_at_5": 0.78899, - "mrr_at_10": 0.7927, - "mrr_at_50": 0.79513, - "mrr_at_100": 0.79522, - "mrr_at_1000": 0.79525 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.54762, - "ndcg_at_3": 0.48888, - "ndcg_at_5": 0.48765, - "ndcg_at_10": 0.51941, - "ndcg_at_50": 0.59798, - "ndcg_at_100": 0.61013, - "ndcg_at_1000": 0.63273, - "map_at_1": 0.23487, - "map_at_3": 0.36049, - "map_at_5": 0.39868, - "map_at_10": 0.43026, - "map_at_50": 0.46401, - "map_at_100": 0.46607, - "map_at_1000": 0.46772, - "recall_at_1": 0.23487, - "recall_at_3": 0.40395, - "recall_at_5": 0.47593, - "recall_at_10": 0.56454, - "recall_at_50": 0.80033, - "recall_at_100": 0.85298, - "recall_at_1000": 0.99157, - "precision_at_1": 0.54762, - "precision_at_3": 0.36508, - "precision_at_5": 0.2756, - "precision_at_10": 0.17292, - "precision_at_50": 0.0519, - "precision_at_100": 0.02765, - "precision_at_1000": 0.0031, - "mrr_at_1": 0.54762, - "mrr_at_3": 0.60913, - "mrr_at_5": 0.62192, - "mrr_at_10": 0.62777, - "mrr_at_50": 0.63353, - "mrr_at_100": 0.63393, - "mrr_at_1000": 0.63429 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.59437, - "ndcg_at_3": 0.52361, - "ndcg_at_5": 0.53979, - "ndcg_at_10": 0.58789, - "ndcg_at_50": 0.65631, - "ndcg_at_100": 0.66908, - "ndcg_at_1000": 0.67854, - "map_at_1": 0.28245, - "map_at_3": 0.406, - "map_at_5": 0.44789, - "map_at_10": 0.48299, - "map_at_50": 0.51042, - "map_at_100": 0.51261, - "map_at_1000": 0.5134, - "recall_at_1": 0.28245, - "recall_at_3": 0.45722, - "recall_at_5": 0.54794, - "recall_at_10": 0.67214, - "recall_at_50": 0.88929, - "recall_at_100": 0.94563, - "recall_at_1000": 1.0, - "precision_at_1": 0.59437, - "precision_at_3": 0.36901, - "precision_at_5": 0.27775, - "precision_at_10": 0.17521, - "precision_at_50": 0.04885, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.59437, - "mrr_at_3": 0.66761, - "mrr_at_5": 0.68085, - "mrr_at_10": 0.69052, - "mrr_at_50": 0.69562, - "mrr_at_100": 0.69586, - "mrr_at_1000": 0.69591 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.57983, - "ndcg_at_3": 0.51489, - "ndcg_at_5": 0.53786, - "ndcg_at_10": 0.58617, - "ndcg_at_50": 0.65141, - "ndcg_at_100": 0.66533, - "ndcg_at_1000": 0.67619, - "map_at_1": 0.27923, - "map_at_3": 0.40591, - "map_at_5": 0.44913, - "map_at_10": 0.48305, - "map_at_50": 0.50967, - "map_at_100": 0.51197, - "map_at_1000": 0.5129, - "recall_at_1": 0.27923, - "recall_at_3": 0.46355, - "recall_at_5": 0.55655, - "recall_at_10": 0.67563, - "recall_at_50": 0.87619, - "recall_at_100": 0.94029, - "recall_at_1000": 1.0, - "precision_at_1": 0.57983, - "precision_at_3": 0.35854, - "precision_at_5": 0.27339, - "precision_at_10": 0.17171, - "precision_at_50": 0.04756, - "precision_at_100": 0.02555, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.57983, - "mrr_at_3": 0.6564, - "mrr_at_5": 0.66984, - "mrr_at_10": 0.67911, - "mrr_at_50": 0.68397, - "mrr_at_100": 0.6843, - "mrr_at_1000": 0.68436 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.59946, - "ndcg_at_3": 0.54172, - "ndcg_at_5": 0.55024, - "ndcg_at_10": 0.59125, - "ndcg_at_50": 0.64867, - "ndcg_at_100": 0.66311, - "ndcg_at_1000": 0.68013, - "map_at_1": 0.31481, - "map_at_3": 0.43555, - "map_at_5": 0.46587, - "map_at_10": 0.49587, - "map_at_50": 0.51631, - "map_at_100": 0.51889, - "map_at_1000": 0.52036, - "recall_at_1": 0.31481, - "recall_at_3": 0.49185, - "recall_at_5": 0.55908, - "recall_at_10": 0.65637, - "recall_at_50": 0.84016, - "recall_at_100": 0.90235, - "recall_at_1000": 1.0, - "precision_at_1": 0.59946, - "precision_at_3": 0.35573, - "precision_at_5": 0.26183, - "precision_at_10": 0.16237, - "precision_at_50": 0.04452, - "precision_at_100": 0.02433, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.59946, - "mrr_at_3": 0.67159, - "mrr_at_5": 0.68665, - "mrr_at_10": 0.69422, - "mrr_at_50": 0.69833, - "mrr_at_100": 0.69851, - "mrr_at_1000": 0.69863 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.53279, - "ndcg_at_3": 0.47062, - "ndcg_at_5": 0.48259, - "ndcg_at_10": 0.53025, - "ndcg_at_50": 0.61453, - "ndcg_at_100": 0.62836, - "ndcg_at_1000": 0.64405, - "map_at_1": 0.23611, - "map_at_3": 0.34811, - "map_at_5": 0.39002, - "map_at_10": 0.43036, - "map_at_50": 0.46662, - "map_at_100": 0.46898, - "map_at_1000": 0.47027, - "recall_at_1": 0.23611, - "recall_at_3": 0.38456, - "recall_at_5": 0.47304, - "recall_at_10": 0.59374, - "recall_at_50": 0.84835, - "recall_at_100": 0.90892, - "recall_at_1000": 0.99966, - "precision_at_1": 0.53279, - "precision_at_3": 0.34335, - "precision_at_5": 0.27049, - "precision_at_10": 0.18033, - "precision_at_50": 0.05388, - "precision_at_100": 0.0288, - "precision_at_1000": 0.00313, - "mrr_at_1": 0.53279, - "mrr_at_3": 0.60747, - "mrr_at_5": 0.62154, - "mrr_at_10": 0.63159, - "mrr_at_50": 0.63868, - "mrr_at_100": 0.639, - "mrr_at_1000": 0.63913 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.57838, - "ndcg_at_3": 0.59381, - "ndcg_at_5": 0.62207, - "ndcg_at_10": 0.66552, - "ndcg_at_50": 0.71642, - "ndcg_at_100": 0.72263, - "ndcg_at_1000": 0.72588, - "map_at_1": 0.31718, - "map_at_3": 0.48925, - "map_at_5": 0.53465, - "map_at_10": 0.56886, - "map_at_50": 0.5903, - "map_at_100": 0.59132, - "map_at_1000": 0.59157, - "recall_at_1": 0.31718, - "recall_at_3": 0.58048, - "recall_at_5": 0.68054, - "recall_at_10": 0.78201, - "recall_at_50": 0.94993, - "recall_at_100": 0.97991, - "recall_at_1000": 1.0, - "precision_at_1": 0.57838, - "precision_at_3": 0.3982, - "precision_at_5": 0.29514, - "precision_at_10": 0.18135, - "precision_at_50": 0.04519, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.57838, - "mrr_at_3": 0.69009, - "mrr_at_5": 0.70401, - "mrr_at_10": 0.70748, - "mrr_at_50": 0.711, - "mrr_at_100": 0.71124, - "mrr_at_1000": 0.71132 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.42025, - "ndcg_at_3": 0.45437, - "ndcg_at_5": 0.50626, - "ndcg_at_10": 0.55703, - "ndcg_at_50": 0.60832, - "ndcg_at_100": 0.61817, - "ndcg_at_1000": 0.62522, - "map_at_1": 0.27513, - "map_at_3": 0.38275, - "map_at_5": 0.42957, - "map_at_10": 0.46164, - "map_at_50": 0.47972, - "map_at_100": 0.48099, - "map_at_1000": 0.48143, - "recall_at_1": 0.27513, - "recall_at_3": 0.4702, - "recall_at_5": 0.59257, - "recall_at_10": 0.71919, - "recall_at_50": 0.89954, - "recall_at_100": 0.95245, - "recall_at_1000": 1.0, - "precision_at_1": 0.42025, - "precision_at_3": 0.27403, - "precision_at_5": 0.22086, - "precision_at_10": 0.13865, - "precision_at_50": 0.03577, - "precision_at_100": 0.01877, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.42025, - "mrr_at_3": 0.53016, - "mrr_at_5": 0.5498, - "mrr_at_10": 0.5608, - "mrr_at_50": 0.56672, - "mrr_at_100": 0.56719, - "mrr_at_1000": 0.56733 - }, - "gpt3": { - "ndcg_at_1": 0.40356, - "ndcg_at_3": 0.48582, - "ndcg_at_5": 0.51546, - "ndcg_at_10": 0.5561, - "ndcg_at_50": 0.60749, - "ndcg_at_100": 0.61559, - "ndcg_at_1000": 0.6204, - "map_at_1": 0.32715, - "map_at_3": 0.44106, - "map_at_5": 0.46207, - "map_at_10": 0.48144, - "map_at_50": 0.49556, - "map_at_100": 0.49662, - "map_at_1000": 0.49695, - "recall_at_1": 0.32715, - "recall_at_3": 0.54797, - "recall_at_5": 0.61029, - "recall_at_10": 0.71934, - "recall_at_50": 0.92507, - "recall_at_100": 0.9686, - "recall_at_1000": 1.0, - "precision_at_1": 0.40356, - "precision_at_3": 0.23937, - "precision_at_5": 0.16736, - "precision_at_10": 0.10237, - "precision_at_50": 0.02706, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.40356, - "mrr_at_3": 0.50593, - "mrr_at_5": 0.52047, - "mrr_at_10": 0.53471, - "mrr_at_50": 0.54201, - "mrr_at_100": 0.54236, - "mrr_at_1000": 0.54247 - }, - "llm-survey": { - "ndcg_at_1": 0.47339, - "ndcg_at_3": 0.44414, - "ndcg_at_5": 0.46872, - "ndcg_at_10": 0.51426, - "ndcg_at_50": 0.57906, - "ndcg_at_100": 0.59375, - "ndcg_at_1000": 0.60981, - "map_at_1": 0.22335, - "map_at_3": 0.34517, - "map_at_5": 0.38668, - "map_at_10": 0.42111, - "map_at_50": 0.44512, - "map_at_100": 0.44743, - "map_at_1000": 0.44846, - "recall_at_1": 0.22335, - "recall_at_3": 0.39991, - "recall_at_5": 0.49481, - "recall_at_10": 0.61082, - "recall_at_50": 0.82564, - "recall_at_100": 0.89631, - "recall_at_1000": 1.0, - "precision_at_1": 0.47339, - "precision_at_3": 0.32026, - "precision_at_5": 0.24706, - "precision_at_10": 0.15994, - "precision_at_50": 0.04398, - "precision_at_100": 0.02373, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.47339, - "mrr_at_3": 0.54575, - "mrr_at_5": 0.56116, - "mrr_at_10": 0.57323, - "mrr_at_50": 0.58029, - "mrr_at_100": 0.58072, - "mrr_at_1000": 0.58096 - }, - "gemini": { - "ndcg_at_1": 0.44578, - "ndcg_at_3": 0.59184, - "ndcg_at_5": 0.61517, - "ndcg_at_10": 0.63905, - "ndcg_at_50": 0.66417, - "ndcg_at_100": 0.66936, - "ndcg_at_1000": 0.6738, - "map_at_1": 0.44578, - "map_at_3": 0.55622, - "map_at_5": 0.56928, - "map_at_10": 0.57941, - "map_at_50": 0.58494, - "map_at_100": 0.5854, - "map_at_1000": 0.58561, - "recall_at_1": 0.44578, - "recall_at_3": 0.69478, - "recall_at_5": 0.751, - "recall_at_10": 0.82329, - "recall_at_50": 0.93574, - "recall_at_100": 0.96787, - "recall_at_1000": 1.0, - "precision_at_1": 0.44578, - "precision_at_3": 0.23159, - "precision_at_5": 0.1502, - "precision_at_10": 0.08233, - "precision_at_50": 0.01871, - "precision_at_100": 0.00968, - "precision_at_1000": 0.001, - "mrr_at_1": 0.44578, - "mrr_at_3": 0.55622, - "mrr_at_5": 0.56928, - "mrr_at_10": 0.57941, - "mrr_at_50": 0.58494, - "mrr_at_100": 0.5854, - "mrr_at_1000": 0.58561 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.27258, - "ndcg_at_3": 0.26173, - "ndcg_at_5": 0.27351, - "ndcg_at_10": 0.32258, - "ndcg_at_50": 0.44728, - "ndcg_at_100": 0.48201, - "ndcg_at_1000": 0.48201, - "map_at_1": 0.10672, - "map_at_3": 0.16845, - "map_at_5": 0.19573, - "map_at_10": 0.22944, - "map_at_50": 0.27407, - "map_at_100": 0.28057, - "map_at_1000": 0.28057, - "recall_at_1": 0.10672, - "recall_at_3": 0.21158, - "recall_at_5": 0.28119, - "recall_at_10": 0.40991, - "recall_at_50": 0.79955, - "recall_at_100": 0.94907, - "recall_at_1000": 0.94907, - "precision_at_1": 0.27258, - "precision_at_3": 0.2054, - "precision_at_5": 0.17159, - "precision_at_10": 0.13238, - "precision_at_50": 0.0548, - "precision_at_100": 0.03234, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.27258, - "mrr_at_3": 0.35297, - "mrr_at_5": 0.37324, - "mrr_at_10": 0.39148, - "mrr_at_50": 0.40359, - "mrr_at_100": 0.40437, - "mrr_at_1000": 0.40437 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.30483, - "ndcg_at_3": 0.29074, - "ndcg_at_5": 0.29763, - "ndcg_at_10": 0.32412, - "ndcg_at_50": 0.37064, - "ndcg_at_100": 0.37718, - "ndcg_at_1000": 0.37718, - "map_at_1": 0.11894, - "map_at_3": 0.19121, - "map_at_5": 0.22096, - "map_at_10": 0.25157, - "map_at_50": 0.27263, - "map_at_100": 0.27355, - "map_at_1000": 0.27355, - "recall_at_1": 0.11894, - "recall_at_3": 0.23028, - "recall_at_5": 0.29308, - "recall_at_10": 0.37951, - "recall_at_50": 0.51385, - "recall_at_100": 0.54393, - "recall_at_1000": 0.54393, - "precision_at_1": 0.30483, - "precision_at_3": 0.22747, - "precision_at_5": 0.18579, - "precision_at_10": 0.13032, - "precision_at_50": 0.03708, - "precision_at_100": 0.01941, - "precision_at_1000": 0.00194, - "mrr_at_1": 0.30539, - "mrr_at_3": 0.36785, - "mrr_at_5": 0.38071, - "mrr_at_10": 0.39001, - "mrr_at_50": 0.39435, - "mrr_at_100": 0.3947, - "mrr_at_1000": 0.3947 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.20271, - "ndcg_at_3": 0.19811, - "ndcg_at_5": 0.21139, - "ndcg_at_10": 0.248, - "ndcg_at_50": 0.35973, - "ndcg_at_100": 0.39404, - "ndcg_at_1000": 0.39404, - "map_at_1": 0.06064, - "map_at_3": 0.10711, - "map_at_5": 0.13255, - "map_at_10": 0.16344, - "map_at_50": 0.20496, - "map_at_100": 0.21127, - "map_at_1000": 0.21127, - "recall_at_1": 0.06064, - "recall_at_3": 0.14024, - "recall_at_5": 0.20445, - "recall_at_10": 0.30887, - "recall_at_50": 0.62042, - "recall_at_100": 0.75401, - "recall_at_1000": 0.75401, - "precision_at_1": 0.20271, - "precision_at_3": 0.17089, - "precision_at_5": 0.1591, - "precision_at_10": 0.13029, - "precision_at_50": 0.05659, - "precision_at_100": 0.03423, - "precision_at_1000": 0.00342, - "mrr_at_1": 0.2033, - "mrr_at_3": 0.27519, - "mrr_at_5": 0.30168, - "mrr_at_10": 0.31959, - "mrr_at_50": 0.33134, - "mrr_at_100": 0.33227, - "mrr_at_1000": 0.33227 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.48575, - "ndcg_at_3": 0.47734, - "ndcg_at_5": 0.49032, - "ndcg_at_10": 0.52662, - "ndcg_at_50": 0.58708, - "ndcg_at_100": 0.59292, - "ndcg_at_1000": 0.59292, - "map_at_1": 0.2105, - "map_at_3": 0.32805, - "map_at_5": 0.37909, - "map_at_10": 0.43275, - "map_at_50": 0.46583, - "map_at_100": 0.46699, - "map_at_1000": 0.46699, - "recall_at_1": 0.2105, - "recall_at_3": 0.37796, - "recall_at_5": 0.4735, - "recall_at_10": 0.60067, - "recall_at_50": 0.7643, - "recall_at_100": 0.78843, - "recall_at_1000": 0.78843, - "precision_at_1": 0.48575, - "precision_at_3": 0.36039, - "precision_at_5": 0.30037, - "precision_at_10": 0.21183, - "precision_at_50": 0.05776, - "precision_at_100": 0.02978, - "precision_at_1000": 0.00298, - "mrr_at_1": 0.48637, - "mrr_at_3": 0.57043, - "mrr_at_5": 0.58715, - "mrr_at_10": 0.59654, - "mrr_at_50": 0.60041, - "mrr_at_100": 0.60056, - "mrr_at_1000": 0.60056 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.59171, - "ndcg_at_3": 0.54722, - "ndcg_at_5": 0.53439, - "ndcg_at_10": 0.55984, - "ndcg_at_50": 0.64722, - "ndcg_at_100": 0.65602, - "ndcg_at_1000": 0.65602, - "map_at_1": 0.16098, - "map_at_3": 0.29995, - "map_at_5": 0.36896, - "map_at_10": 0.44484, - "map_at_50": 0.49598, - "map_at_100": 0.49795, - "map_at_1000": 0.49795, - "recall_at_1": 0.16098, - "recall_at_3": 0.33881, - "recall_at_5": 0.44562, - "recall_at_10": 0.59696, - "recall_at_50": 0.81638, - "recall_at_100": 0.85061, - "recall_at_1000": 0.85061, - "precision_at_1": 0.59171, - "precision_at_3": 0.48056, - "precision_at_5": 0.40791, - "precision_at_10": 0.295, - "precision_at_50": 0.0843, - "precision_at_100": 0.04369, - "precision_at_1000": 0.00437, - "mrr_at_1": 0.59155, - "mrr_at_3": 0.67097, - "mrr_at_5": 0.68365, - "mrr_at_10": 0.69116, - "mrr_at_50": 0.69439, - "mrr_at_100": 0.69458, - "mrr_at_1000": 0.69458 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.29456, - "ndcg_at_3": 0.26074, - "ndcg_at_5": 0.25057, - "ndcg_at_10": 0.27695, - "ndcg_at_50": 0.40684, - "ndcg_at_100": 0.44538, - "ndcg_at_1000": 0.44538, - "map_at_1": 0.06021, - "map_at_3": 0.11146, - "map_at_5": 0.13752, - "map_at_10": 0.17124, - "map_at_50": 0.22206, - "map_at_100": 0.23078, - "map_at_1000": 0.23078, - "recall_at_1": 0.06021, - "recall_at_3": 0.14075, - "recall_at_5": 0.19926, - "recall_at_10": 0.30397, - "recall_at_50": 0.64188, - "recall_at_100": 0.77778, - "recall_at_1000": 0.77778, - "precision_at_1": 0.29456, - "precision_at_3": 0.24013, - "precision_at_5": 0.20971, - "precision_at_10": 0.16585, - "precision_at_50": 0.07235, - "precision_at_100": 0.04382, - "precision_at_1000": 0.00438, - "mrr_at_1": 0.29562, - "mrr_at_3": 0.38545, - "mrr_at_5": 0.4093, - "mrr_at_10": 0.42772, - "mrr_at_50": 0.4372, - "mrr_at_100": 0.43756, - "mrr_at_1000": 0.43756 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.50264, - "ndcg_at_3": 0.47344, - "ndcg_at_5": 0.48706, - "ndcg_at_10": 0.53016, - "ndcg_at_50": 0.58126, - "ndcg_at_100": 0.58596, - "ndcg_at_1000": 0.58596, - "map_at_1": 0.22024, - "map_at_3": 0.35248, - "map_at_5": 0.39498, - "map_at_10": 0.43319, - "map_at_50": 0.45508, - "map_at_100": 0.45583, - "map_at_1000": 0.45583, - "recall_at_1": 0.22024, - "recall_at_3": 0.40922, - "recall_at_5": 0.49508, - "recall_at_10": 0.61057, - "recall_at_50": 0.7657, - "recall_at_100": 0.787, - "recall_at_1000": 0.787, - "precision_at_1": 0.50264, - "precision_at_3": 0.3554, - "precision_at_5": 0.27499, - "precision_at_10": 0.17897, - "precision_at_50": 0.04641, - "precision_at_100": 0.02381, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.50264, - "mrr_at_3": 0.58651, - "mrr_at_5": 0.60071, - "mrr_at_10": 0.60924, - "mrr_at_50": 0.61354, - "mrr_at_100": 0.61372, - "mrr_at_1000": 0.61372 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.23102, - "ndcg_at_3": 0.21367, - "ndcg_at_5": 0.21443, - "ndcg_at_10": 0.24372, - "ndcg_at_50": 0.33989, - "ndcg_at_100": 0.3658, - "ndcg_at_1000": 0.3658, - "map_at_1": 0.05989, - "map_at_3": 0.10612, - "map_at_5": 0.12858, - "map_at_10": 0.15641, - "map_at_50": 0.1915, - "map_at_100": 0.19634, - "map_at_1000": 0.19634, - "recall_at_1": 0.05989, - "recall_at_3": 0.13758, - "recall_at_5": 0.19141, - "recall_at_10": 0.2828, - "recall_at_50": 0.54782, - "recall_at_100": 0.64606, - "recall_at_1000": 0.64606, - "precision_at_1": 0.23102, - "precision_at_3": 0.18966, - "precision_at_5": 0.16731, - "precision_at_10": 0.13025, - "precision_at_50": 0.05216, - "precision_at_100": 0.0306, - "precision_at_1000": 0.00306, - "mrr_at_1": 0.23102, - "mrr_at_3": 0.3084, - "mrr_at_5": 0.3304, - "mrr_at_10": 0.34755, - "mrr_at_50": 0.35849, - "mrr_at_100": 0.35903, - "mrr_at_1000": 0.35903 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.44101, - "ndcg_at_3": 0.4602, - "ndcg_at_5": 0.4794, - "ndcg_at_10": 0.50811, - "ndcg_at_50": 0.54477, - "ndcg_at_100": 0.54994, - "ndcg_at_1000": 0.54994, - "map_at_1": 0.27054, - "map_at_3": 0.38489, - "map_at_5": 0.41928, - "map_at_10": 0.44784, - "map_at_50": 0.46333, - "map_at_100": 0.46399, - "map_at_1000": 0.46399, - "recall_at_1": 0.27054, - "recall_at_3": 0.44118, - "recall_at_5": 0.5144, - "recall_at_10": 0.59399, - "recall_at_50": 0.71596, - "recall_at_100": 0.74381, - "recall_at_1000": 0.74381, - "precision_at_1": 0.44101, - "precision_at_3": 0.28496, - "precision_at_5": 0.21577, - "precision_at_10": 0.1364, - "precision_at_50": 0.03412, - "precision_at_100": 0.01753, - "precision_at_1000": 0.00175, - "mrr_at_1": 0.44101, - "mrr_at_3": 0.5061, - "mrr_at_5": 0.51689, - "mrr_at_10": 0.52277, - "mrr_at_50": 0.52678, - "mrr_at_100": 0.52711, - "mrr_at_1000": 0.52711 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.46814, - "ndcg_at_3": 0.44149, - "ndcg_at_5": 0.46242, - "ndcg_at_10": 0.50511, - "ndcg_at_50": 0.56966, - "ndcg_at_100": 0.58345, - "ndcg_at_1000": 0.58345, - "map_at_1": 0.24519, - "map_at_3": 0.3419, - "map_at_5": 0.3737, - "map_at_10": 0.40315, - "map_at_50": 0.42737, - "map_at_100": 0.42986, - "map_at_1000": 0.42986, - "recall_at_1": 0.24519, - "recall_at_3": 0.41162, - "recall_at_5": 0.49435, - "recall_at_10": 0.60234, - "recall_at_50": 0.79994, - "recall_at_100": 0.85694, - "recall_at_1000": 0.85694, - "precision_at_1": 0.46814, - "precision_at_3": 0.29085, - "precision_at_5": 0.22156, - "precision_at_10": 0.14378, - "precision_at_50": 0.04281, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.46814, - "mrr_at_3": 0.56601, - "mrr_at_5": 0.58391, - "mrr_at_10": 0.59386, - "mrr_at_50": 0.59917, - "mrr_at_100": 0.59941, - "mrr_at_1000": 0.59941 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.67748, - "ndcg_at_3": 0.61787, - "ndcg_at_5": 0.63375, - "ndcg_at_10": 0.66338, - "ndcg_at_50": 0.69142, - "ndcg_at_100": 0.6941, - "ndcg_at_1000": 0.6941, - "map_at_1": 0.39937, - "map_at_3": 0.52176, - "map_at_5": 0.55789, - "map_at_10": 0.58473, - "map_at_50": 0.59776, - "map_at_100": 0.59816, - "map_at_1000": 0.59816, - "recall_at_1": 0.39937, - "recall_at_3": 0.56487, - "recall_at_5": 0.64034, - "recall_at_10": 0.71736, - "recall_at_50": 0.80033, - "recall_at_100": 0.8129, - "recall_at_1000": 0.8129, - "precision_at_1": 0.67748, - "precision_at_3": 0.3785, - "precision_at_5": 0.2747, - "precision_at_10": 0.16485, - "precision_at_50": 0.03878, - "precision_at_100": 0.01972, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.67748, - "mrr_at_3": 0.73229, - "mrr_at_5": 0.74335, - "mrr_at_10": 0.7475, - "mrr_at_50": 0.74942, - "mrr_at_100": 0.74953, - "mrr_at_1000": 0.74953 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.48527, - "ndcg_at_3": 0.44327, - "ndcg_at_5": 0.44925, - "ndcg_at_10": 0.48882, - "ndcg_at_50": 0.53844, - "ndcg_at_100": 0.54217, - "ndcg_at_1000": 0.54217, - "map_at_1": 0.2002, - "map_at_3": 0.30717, - "map_at_5": 0.34682, - "map_at_10": 0.38604, - "map_at_50": 0.40888, - "map_at_100": 0.40942, - "map_at_1000": 0.40942, - "recall_at_1": 0.2002, - "recall_at_3": 0.36274, - "recall_at_5": 0.44465, - "recall_at_10": 0.5583, - "recall_at_50": 0.70424, - "recall_at_100": 0.72196, - "recall_at_1000": 0.72196, - "precision_at_1": 0.48527, - "precision_at_3": 0.33603, - "precision_at_5": 0.26262, - "precision_at_10": 0.17429, - "precision_at_50": 0.04526, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.48527, - "mrr_at_3": 0.57269, - "mrr_at_5": 0.58555, - "mrr_at_10": 0.59294, - "mrr_at_50": 0.59669, - "mrr_at_100": 0.59687, - "mrr_at_1000": 0.59687 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.28105, - "ndcg_at_3": 0.28907, - "ndcg_at_5": 0.3055, - "ndcg_at_10": 0.34738, - "ndcg_at_50": 0.44421, - "ndcg_at_100": 0.46645, - "ndcg_at_1000": 0.46645, - "map_at_1": 0.11208, - "map_at_3": 0.18265, - "map_at_5": 0.2138, - "map_at_10": 0.24826, - "map_at_50": 0.28621, - "map_at_100": 0.29052, - "map_at_1000": 0.29052, - "recall_at_1": 0.11208, - "recall_at_3": 0.23657, - "recall_at_5": 0.31548, - "recall_at_10": 0.43536, - "recall_at_50": 0.71409, - "recall_at_100": 0.80204, - "recall_at_1000": 0.80204, - "precision_at_1": 0.28105, - "precision_at_3": 0.22797, - "precision_at_5": 0.19548, - "precision_at_10": 0.14777, - "precision_at_50": 0.05409, - "precision_at_100": 0.0308, - "precision_at_1000": 0.00308, - "mrr_at_1": 0.28164, - "mrr_at_3": 0.37889, - "mrr_at_5": 0.40369, - "mrr_at_10": 0.42043, - "mrr_at_50": 0.42869, - "mrr_at_100": 0.42915, - "mrr_at_1000": 0.42915 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.50849, - "ndcg_at_3": 0.48729, - "ndcg_at_5": 0.49602, - "ndcg_at_10": 0.53107, - "ndcg_at_50": 0.58214, - "ndcg_at_100": 0.5873, - "ndcg_at_1000": 0.5873, - "map_at_1": 0.24556, - "map_at_3": 0.34954, - "map_at_5": 0.39103, - "map_at_10": 0.43168, - "map_at_50": 0.45657, - "map_at_100": 0.45752, - "map_at_1000": 0.45752, - "recall_at_1": 0.24556, - "recall_at_3": 0.4078, - "recall_at_5": 0.49338, - "recall_at_10": 0.6039, - "recall_at_50": 0.74359, - "recall_at_100": 0.76576, - "recall_at_1000": 0.76576, - "precision_at_1": 0.50849, - "precision_at_3": 0.3429, - "precision_at_5": 0.27264, - "precision_at_10": 0.18325, - "precision_at_50": 0.04889, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.50849, - "mrr_at_3": 0.59822, - "mrr_at_5": 0.61337, - "mrr_at_10": 0.62126, - "mrr_at_50": 0.62477, - "mrr_at_100": 0.62492, - "mrr_at_1000": 0.62492 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.56936, - "ndcg_at_3": 0.5046, - "ndcg_at_5": 0.5155, - "ndcg_at_10": 0.57074, - "ndcg_at_50": 0.65559, - "ndcg_at_100": 0.66401, - "ndcg_at_1000": 0.66401, - "map_at_1": 0.19254, - "map_at_3": 0.32382, - "map_at_5": 0.38902, - "map_at_10": 0.4527, - "map_at_50": 0.49416, - "map_at_100": 0.49584, - "map_at_1000": 0.49584, - "recall_at_1": 0.19254, - "recall_at_3": 0.36805, - "recall_at_5": 0.48371, - "recall_at_10": 0.64537, - "recall_at_50": 0.8913, - "recall_at_100": 0.92765, - "recall_at_1000": 0.92765, - "precision_at_1": 0.56936, - "precision_at_3": 0.41908, - "precision_at_5": 0.3526, - "precision_at_10": 0.24595, - "precision_at_50": 0.06902, - "precision_at_100": 0.03566, - "precision_at_1000": 0.00357, - "mrr_at_1": 0.56936, - "mrr_at_3": 0.65414, - "mrr_at_5": 0.67134, - "mrr_at_10": 0.67997, - "mrr_at_50": 0.68363, - "mrr_at_100": 0.68381, - "mrr_at_1000": 0.68381 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.58258, - "ndcg_at_3": 0.51238, - "ndcg_at_5": 0.50097, - "ndcg_at_10": 0.54697, - "ndcg_at_50": 0.64234, - "ndcg_at_100": 0.65434, - "ndcg_at_1000": 0.65434, - "map_at_1": 0.15647, - "map_at_3": 0.2963, - "map_at_5": 0.36084, - "map_at_10": 0.43459, - "map_at_50": 0.48226, - "map_at_100": 0.48476, - "map_at_1000": 0.48476, - "recall_at_1": 0.15647, - "recall_at_3": 0.33407, - "recall_at_5": 0.43731, - "recall_at_10": 0.59917, - "recall_at_50": 0.86614, - "recall_at_100": 0.91717, - "recall_at_1000": 0.91717, - "precision_at_1": 0.58258, - "precision_at_3": 0.44945, - "precision_at_5": 0.37538, - "precision_at_10": 0.26787, - "precision_at_50": 0.07736, - "precision_at_100": 0.04036, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.58258, - "mrr_at_3": 0.65015, - "mrr_at_5": 0.66186, - "mrr_at_10": 0.67047, - "mrr_at_50": 0.67642, - "mrr_at_100": 0.67665, - "mrr_at_1000": 0.67665 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.64793, - "ndcg_at_3": 0.57585, - "ndcg_at_5": 0.56818, - "ndcg_at_10": 0.60584, - "ndcg_at_50": 0.68361, - "ndcg_at_100": 0.69122, - "ndcg_at_1000": 0.69122, - "map_at_1": 0.19973, - "map_at_3": 0.3528, - "map_at_5": 0.4274, - "map_at_10": 0.49744, - "map_at_50": 0.5411, - "map_at_100": 0.5423, - "map_at_1000": 0.5423, - "recall_at_1": 0.19973, - "recall_at_3": 0.38524, - "recall_at_5": 0.50412, - "recall_at_10": 0.65183, - "recall_at_50": 0.86336, - "recall_at_100": 0.89912, - "recall_at_1000": 0.89912, - "precision_at_1": 0.64793, - "precision_at_3": 0.48817, - "precision_at_5": 0.40828, - "precision_at_10": 0.28225, - "precision_at_50": 0.07633, - "precision_at_100": 0.03908, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.64793, - "mrr_at_3": 0.70513, - "mrr_at_5": 0.71474, - "mrr_at_10": 0.72158, - "mrr_at_50": 0.72529, - "mrr_at_100": 0.72565, - "mrr_at_1000": 0.72565 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.62537, - "ndcg_at_3": 0.56292, - "ndcg_at_5": 0.5672, - "ndcg_at_10": 0.62406, - "ndcg_at_50": 0.70257, - "ndcg_at_100": 0.71179, - "ndcg_at_1000": 0.71179, - "map_at_1": 0.20854, - "map_at_3": 0.37699, - "map_at_5": 0.44439, - "map_at_10": 0.51314, - "map_at_50": 0.55437, - "map_at_100": 0.5559, - "map_at_1000": 0.5559, - "recall_at_1": 0.20854, - "recall_at_3": 0.41626, - "recall_at_5": 0.53147, - "recall_at_10": 0.6932, - "recall_at_50": 0.91173, - "recall_at_100": 0.95626, - "recall_at_1000": 0.95626, - "precision_at_1": 0.62537, - "precision_at_3": 0.47886, - "precision_at_5": 0.38643, - "precision_at_10": 0.26755, - "precision_at_50": 0.07221, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.62832, - "mrr_at_3": 0.7001, - "mrr_at_5": 0.71396, - "mrr_at_10": 0.7205, - "mrr_at_50": 0.72447, - "mrr_at_100": 0.72474, - "mrr_at_1000": 0.72474 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.76087, - "ndcg_at_3": 0.69321, - "ndcg_at_5": 0.68737, - "ndcg_at_10": 0.73236, - "ndcg_at_50": 0.79897, - "ndcg_at_100": 0.80257, - "ndcg_at_1000": 0.80257, - "map_at_1": 0.27097, - "map_at_3": 0.46731, - "map_at_5": 0.55026, - "map_at_10": 0.62326, - "map_at_50": 0.66488, - "map_at_100": 0.66566, - "map_at_1000": 0.66566, - "recall_at_1": 0.27097, - "recall_at_3": 0.5054, - "recall_at_5": 0.63626, - "recall_at_10": 0.78549, - "recall_at_50": 0.95821, - "recall_at_100": 0.97235, - "recall_at_1000": 0.97235, - "precision_at_1": 0.76087, - "precision_at_3": 0.57337, - "precision_at_5": 0.46196, - "precision_at_10": 0.30489, - "precision_at_50": 0.07739, - "precision_at_100": 0.03927, - "precision_at_1000": 0.00393, - "mrr_at_1": 0.76087, - "mrr_at_3": 0.82518, - "mrr_at_5": 0.83632, - "mrr_at_10": 0.83857, - "mrr_at_50": 0.83999, - "mrr_at_100": 0.84003, - "mrr_at_1000": 0.84003 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.59821, - "ndcg_at_3": 0.53739, - "ndcg_at_5": 0.55166, - "ndcg_at_10": 0.59174, - "ndcg_at_50": 0.64742, - "ndcg_at_100": 0.65422, - "ndcg_at_1000": 0.65422, - "map_at_1": 0.25321, - "map_at_3": 0.40092, - "map_at_5": 0.45698, - "map_at_10": 0.50114, - "map_at_50": 0.52815, - "map_at_100": 0.52924, - "map_at_1000": 0.52924, - "recall_at_1": 0.25321, - "recall_at_3": 0.44054, - "recall_at_5": 0.54468, - "recall_at_10": 0.65541, - "recall_at_50": 0.82116, - "recall_at_100": 0.85298, - "recall_at_1000": 0.85298, - "precision_at_1": 0.59821, - "precision_at_3": 0.41071, - "precision_at_5": 0.32679, - "precision_at_10": 0.20863, - "precision_at_50": 0.05363, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.59821, - "mrr_at_3": 0.65377, - "mrr_at_5": 0.66746, - "mrr_at_10": 0.67315, - "mrr_at_50": 0.67696, - "mrr_at_100": 0.67726, - "mrr_at_1000": 0.67726 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.65634, - "ndcg_at_3": 0.60219, - "ndcg_at_5": 0.62201, - "ndcg_at_10": 0.67149, - "ndcg_at_50": 0.72452, - "ndcg_at_100": 0.72875, - "ndcg_at_1000": 0.72875, - "map_at_1": 0.3083, - "map_at_3": 0.47428, - "map_at_5": 0.52625, - "map_at_10": 0.56695, - "map_at_50": 0.59139, - "map_at_100": 0.59217, - "map_at_1000": 0.59217, - "recall_at_1": 0.3083, - "recall_at_3": 0.53971, - "recall_at_5": 0.64355, - "recall_at_10": 0.76295, - "recall_at_50": 0.92634, - "recall_at_100": 0.94563, - "recall_at_1000": 0.94563, - "precision_at_1": 0.65634, - "precision_at_3": 0.43192, - "precision_at_5": 0.32507, - "precision_at_10": 0.20423, - "precision_at_50": 0.05121, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.65634, - "mrr_at_3": 0.73991, - "mrr_at_5": 0.74878, - "mrr_at_10": 0.75637, - "mrr_at_50": 0.75916, - "mrr_at_100": 0.75924, - "mrr_at_1000": 0.75924 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63585, - "ndcg_at_3": 0.57077, - "ndcg_at_5": 0.6009, - "ndcg_at_10": 0.65923, - "ndcg_at_50": 0.71006, - "ndcg_at_100": 0.7152, - "ndcg_at_1000": 0.7152, - "map_at_1": 0.31079, - "map_at_3": 0.45559, - "map_at_5": 0.5081, - "map_at_10": 0.5549, - "map_at_50": 0.57744, - "map_at_100": 0.57825, - "map_at_1000": 0.57825, - "recall_at_1": 0.31079, - "recall_at_3": 0.50607, - "recall_at_5": 0.62006, - "recall_at_10": 0.75865, - "recall_at_50": 0.91452, - "recall_at_100": 0.94029, - "recall_at_1000": 0.94029, - "precision_at_1": 0.63585, - "precision_at_3": 0.39776, - "precision_at_5": 0.30812, - "precision_at_10": 0.2, - "precision_at_50": 0.05003, - "precision_at_100": 0.02555, - "precision_at_1000": 0.00255, - "mrr_at_1": 0.63585, - "mrr_at_3": 0.71195, - "mrr_at_5": 0.7275, - "mrr_at_10": 0.73591, - "mrr_at_50": 0.73834, - "mrr_at_100": 0.73855, - "mrr_at_1000": 0.73855 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.65591, - "ndcg_at_3": 0.60925, - "ndcg_at_5": 0.62775, - "ndcg_at_10": 0.66895, - "ndcg_at_50": 0.71838, - "ndcg_at_100": 0.72406, - "ndcg_at_1000": 0.72406, - "map_at_1": 0.35827, - "map_at_3": 0.50261, - "map_at_5": 0.54515, - "map_at_10": 0.5772, - "map_at_50": 0.60027, - "map_at_100": 0.60135, - "map_at_1000": 0.60135, - "recall_at_1": 0.35827, - "recall_at_3": 0.55079, - "recall_at_5": 0.64268, - "recall_at_10": 0.73345, - "recall_at_50": 0.87748, - "recall_at_100": 0.90235, - "recall_at_1000": 0.90235, - "precision_at_1": 0.65591, - "precision_at_3": 0.40591, - "precision_at_5": 0.30161, - "precision_at_10": 0.18656, - "precision_at_50": 0.0472, - "precision_at_100": 0.02433, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.65591, - "mrr_at_3": 0.73297, - "mrr_at_5": 0.74615, - "mrr_at_10": 0.7504, - "mrr_at_50": 0.75327, - "mrr_at_100": 0.75335, - "mrr_at_1000": 0.75335 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.47814, - "ndcg_at_3": 0.42738, - "ndcg_at_5": 0.44802, - "ndcg_at_10": 0.50576, - "ndcg_at_50": 0.58948, - "ndcg_at_100": 0.60253, - "ndcg_at_1000": 0.60253, - "map_at_1": 0.1999, - "map_at_3": 0.30472, - "map_at_5": 0.35248, - "map_at_10": 0.39939, - "map_at_50": 0.43594, - "map_at_100": 0.43808, - "map_at_1000": 0.43808, - "recall_at_1": 0.1999, - "recall_at_3": 0.34964, - "recall_at_5": 0.45276, - "recall_at_10": 0.59366, - "recall_at_50": 0.84728, - "recall_at_100": 0.90892, - "recall_at_1000": 0.90892, - "precision_at_1": 0.47814, - "precision_at_3": 0.32514, - "precision_at_5": 0.26612, - "precision_at_10": 0.18579, - "precision_at_50": 0.05459, - "precision_at_100": 0.0288, - "precision_at_1000": 0.00288, - "mrr_at_1": 0.47814, - "mrr_at_3": 0.55829, - "mrr_at_5": 0.5781, - "mrr_at_10": 0.58992, - "mrr_at_50": 0.59589, - "mrr_at_100": 0.5964, - "mrr_at_1000": 0.5964 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.53514, - "ndcg_at_3": 0.52505, - "ndcg_at_5": 0.56967, - "ndcg_at_10": 0.62971, - "ndcg_at_50": 0.68315, - "ndcg_at_100": 0.68963, - "ndcg_at_1000": 0.68963, - "map_at_1": 0.30218, - "map_at_3": 0.43148, - "map_at_5": 0.48491, - "map_at_10": 0.52863, - "map_at_50": 0.55146, - "map_at_100": 0.55247, - "map_at_1000": 0.55247, - "recall_at_1": 0.30218, - "recall_at_3": 0.50348, - "recall_at_5": 0.63055, - "recall_at_10": 0.7753, - "recall_at_50": 0.94721, - "recall_at_100": 0.97991, - "recall_at_1000": 0.97991, - "precision_at_1": 0.53514, - "precision_at_3": 0.34505, - "precision_at_5": 0.27622, - "precision_at_10": 0.17919, - "precision_at_50": 0.04524, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.53514, - "mrr_at_3": 0.62297, - "mrr_at_5": 0.64473, - "mrr_at_10": 0.65443, - "mrr_at_50": 0.65871, - "mrr_at_100": 0.65887, - "mrr_at_1000": 0.65887 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.40491, - "ndcg_at_3": 0.46464, - "ndcg_at_5": 0.49997, - "ndcg_at_10": 0.54925, - "ndcg_at_50": 0.60533, - "ndcg_at_100": 0.6137, - "ndcg_at_1000": 0.6137, - "map_at_1": 0.25787, - "map_at_3": 0.39442, - "map_at_5": 0.42938, - "map_at_10": 0.46102, - "map_at_50": 0.48079, - "map_at_100": 0.48179, - "map_at_1000": 0.48179, - "recall_at_1": 0.25787, - "recall_at_3": 0.49522, - "recall_at_5": 0.58608, - "recall_at_10": 0.70723, - "recall_at_50": 0.90695, - "recall_at_100": 0.95245, - "recall_at_1000": 0.95245, - "precision_at_1": 0.40491, - "precision_at_3": 0.28834, - "precision_at_5": 0.21779, - "precision_at_10": 0.13865, - "precision_at_50": 0.03613, - "precision_at_100": 0.01877, - "precision_at_1000": 0.00188, - "mrr_at_1": 0.40491, - "mrr_at_3": 0.5138, - "mrr_at_5": 0.53144, - "mrr_at_10": 0.54138, - "mrr_at_50": 0.54845, - "mrr_at_100": 0.54892, - "mrr_at_1000": 0.54892 - }, - "gpt3": { - "ndcg_at_1": 0.35015, - "ndcg_at_3": 0.44993, - "ndcg_at_5": 0.49634, - "ndcg_at_10": 0.53258, - "ndcg_at_50": 0.58376, - "ndcg_at_100": 0.59318, - "ndcg_at_1000": 0.59318, - "map_at_1": 0.27844, - "map_at_3": 0.39878, - "map_at_5": 0.43183, - "map_at_10": 0.44974, - "map_at_50": 0.4645, - "map_at_100": 0.46556, - "map_at_1000": 0.46556, - "recall_at_1": 0.27844, - "recall_at_3": 0.51533, - "recall_at_5": 0.61499, - "recall_at_10": 0.71365, - "recall_at_50": 0.91518, - "recall_at_100": 0.9686, - "recall_at_1000": 0.9686, - "precision_at_1": 0.35015, - "precision_at_3": 0.23442, - "precision_at_5": 0.17389, - "precision_at_10": 0.10297, - "precision_at_50": 0.027, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.35015, - "mrr_at_3": 0.47626, - "mrr_at_5": 0.49451, - "mrr_at_10": 0.50688, - "mrr_at_50": 0.51423, - "mrr_at_100": 0.51478, - "mrr_at_1000": 0.51478 - }, - "llm-survey": { - "ndcg_at_1": 0.47619, - "ndcg_at_3": 0.44506, - "ndcg_at_5": 0.47859, - "ndcg_at_10": 0.52866, - "ndcg_at_50": 0.5875, - "ndcg_at_100": 0.60019, - "ndcg_at_1000": 0.60019, - "map_at_1": 0.22747, - "map_at_3": 0.34775, - "map_at_5": 0.39291, - "map_at_10": 0.43365, - "map_at_50": 0.4566, - "map_at_100": 0.45834, - "map_at_1000": 0.45834, - "recall_at_1": 0.22747, - "recall_at_3": 0.3999, - "recall_at_5": 0.50554, - "recall_at_10": 0.63239, - "recall_at_50": 0.83246, - "recall_at_100": 0.89631, - "recall_at_1000": 0.89631, - "precision_at_1": 0.47619, - "precision_at_3": 0.324, - "precision_at_5": 0.25882, - "precision_at_10": 0.17087, - "precision_at_50": 0.04493, - "precision_at_100": 0.02373, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.47619, - "mrr_at_3": 0.54995, - "mrr_at_5": 0.57222, - "mrr_at_10": 0.58069, - "mrr_at_50": 0.58553, - "mrr_at_100": 0.58621, - "mrr_at_1000": 0.58621 - }, - "gemini": { - "ndcg_at_1": 0.43775, - "ndcg_at_3": 0.5535, - "ndcg_at_5": 0.58184, - "ndcg_at_10": 0.60974, - "ndcg_at_50": 0.64326, - "ndcg_at_100": 0.64925, - "ndcg_at_1000": 0.64925, - "map_at_1": 0.43775, - "map_at_3": 0.52544, - "map_at_5": 0.5413, - "map_at_10": 0.55319, - "map_at_50": 0.56113, - "map_at_100": 0.5617, - "map_at_1000": 0.5617, - "recall_at_1": 0.43775, - "recall_at_3": 0.63454, - "recall_at_5": 0.70281, - "recall_at_10": 0.78715, - "recall_at_50": 0.93173, - "recall_at_100": 0.96787, - "recall_at_1000": 0.96787, - "precision_at_1": 0.43775, - "precision_at_3": 0.21151, - "precision_at_5": 0.14056, - "precision_at_10": 0.07871, - "precision_at_50": 0.01863, - "precision_at_100": 0.00968, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.43775, - "mrr_at_3": 0.52544, - "mrr_at_5": 0.5413, - "mrr_at_10": 0.55319, - "mrr_at_50": 0.56113, - "mrr_at_100": 0.5617, - "mrr_at_1000": 0.5617 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.16355, - "ndcg_at_3": 0.175, - "ndcg_at_5": 0.18743, - "ndcg_at_10": 0.22632, - "ndcg_at_50": 0.36138, - "ndcg_at_100": 0.41108, - "ndcg_at_1000": 0.41108, - "map_at_1": 0.0607, - "map_at_3": 0.10644, - "map_at_5": 0.1254, - "map_at_10": 0.14822, - "map_at_50": 0.19056, - "map_at_100": 0.19971, - "map_at_1000": 0.19971, - "recall_at_1": 0.0607, - "recall_at_3": 0.1495, - "recall_at_5": 0.20451, - "recall_at_10": 0.30596, - "recall_at_50": 0.73989, - "recall_at_100": 0.94907, - "recall_at_1000": 0.94907, - "precision_at_1": 0.16355, - "precision_at_3": 0.14354, - "precision_at_5": 0.12324, - "precision_at_10": 0.09581, - "precision_at_50": 0.04967, - "precision_at_100": 0.03234, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.1641, - "mrr_at_3": 0.24257, - "mrr_at_5": 0.2628, - "mrr_at_10": 0.28044, - "mrr_at_50": 0.29714, - "mrr_at_100": 0.29831, - "mrr_at_1000": 0.29831 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.30094, - "ndcg_at_3": 0.28776, - "ndcg_at_5": 0.29755, - "ndcg_at_10": 0.32487, - "ndcg_at_50": 0.37135, - "ndcg_at_100": 0.37794, - "ndcg_at_1000": 0.37794, - "map_at_1": 0.12253, - "map_at_3": 0.19207, - "map_at_5": 0.22211, - "map_at_10": 0.25254, - "map_at_50": 0.27348, - "map_at_100": 0.27448, - "map_at_1000": 0.27448, - "recall_at_1": 0.12253, - "recall_at_3": 0.23209, - "recall_at_5": 0.29508, - "recall_at_10": 0.38128, - "recall_at_50": 0.51435, - "recall_at_100": 0.54393, - "recall_at_1000": 0.54393, - "precision_at_1": 0.30094, - "precision_at_3": 0.22265, - "precision_at_5": 0.18456, - "precision_at_10": 0.12909, - "precision_at_50": 0.03703, - "precision_at_100": 0.01941, - "precision_at_1000": 0.00194, - "mrr_at_1": 0.30094, - "mrr_at_3": 0.36693, - "mrr_at_5": 0.38025, - "mrr_at_10": 0.38879, - "mrr_at_50": 0.39331, - "mrr_at_100": 0.39362, - "mrr_at_1000": 0.39362 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.16205, - "ndcg_at_3": 0.1621, - "ndcg_at_5": 0.17081, - "ndcg_at_10": 0.19633, - "ndcg_at_50": 0.30835, - "ndcg_at_100": 0.35824, - "ndcg_at_1000": 0.35824, - "map_at_1": 0.0483, - "map_at_3": 0.08731, - "map_at_5": 0.10675, - "map_at_10": 0.12843, - "map_at_50": 0.16477, - "map_at_100": 0.17387, - "map_at_1000": 0.17387, - "recall_at_1": 0.0483, - "recall_at_3": 0.11456, - "recall_at_5": 0.16462, - "recall_at_10": 0.24149, - "recall_at_50": 0.5628, - "recall_at_100": 0.75401, - "recall_at_1000": 0.75401, - "precision_at_1": 0.16205, - "precision_at_3": 0.14084, - "precision_at_5": 0.12799, - "precision_at_10": 0.10136, - "precision_at_50": 0.05064, - "precision_at_100": 0.03423, - "precision_at_1000": 0.00342, - "mrr_at_1": 0.16205, - "mrr_at_3": 0.22402, - "mrr_at_5": 0.24471, - "mrr_at_10": 0.26039, - "mrr_at_50": 0.27665, - "mrr_at_100": 0.27784, - "mrr_at_1000": 0.27784 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5031, - "ndcg_at_3": 0.50608, - "ndcg_at_5": 0.51597, - "ndcg_at_10": 0.55218, - "ndcg_at_50": 0.60502, - "ndcg_at_100": 0.60982, - "ndcg_at_1000": 0.60982, - "map_at_1": 0.22253, - "map_at_3": 0.35067, - "map_at_5": 0.40425, - "map_at_10": 0.4611, - "map_at_50": 0.49028, - "map_at_100": 0.49123, - "map_at_1000": 0.49123, - "recall_at_1": 0.22253, - "recall_at_3": 0.40558, - "recall_at_5": 0.49918, - "recall_at_10": 0.62378, - "recall_at_50": 0.76859, - "recall_at_100": 0.78843, - "recall_at_1000": 0.78843, - "precision_at_1": 0.5031, - "precision_at_3": 0.38352, - "precision_at_5": 0.31561, - "precision_at_10": 0.22237, - "precision_at_50": 0.05804, - "precision_at_100": 0.02978, - "precision_at_1000": 0.00298, - "mrr_at_1": 0.5031, - "mrr_at_3": 0.59387, - "mrr_at_5": 0.60824, - "mrr_at_10": 0.61617, - "mrr_at_50": 0.61914, - "mrr_at_100": 0.61925, - "mrr_at_1000": 0.61925 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.59313, - "ndcg_at_3": 0.55588, - "ndcg_at_5": 0.54185, - "ndcg_at_10": 0.565, - "ndcg_at_50": 0.65042, - "ndcg_at_100": 0.65946, - "ndcg_at_1000": 0.65946, - "map_at_1": 0.16233, - "map_at_3": 0.30585, - "map_at_5": 0.37659, - "map_at_10": 0.45283, - "map_at_50": 0.50289, - "map_at_100": 0.5049, - "map_at_1000": 0.5049, - "recall_at_1": 0.16233, - "recall_at_3": 0.34353, - "recall_at_5": 0.45, - "recall_at_10": 0.59992, - "recall_at_50": 0.81518, - "recall_at_100": 0.85061, - "recall_at_1000": 0.85061, - "precision_at_1": 0.59313, - "precision_at_3": 0.49, - "precision_at_5": 0.41586, - "precision_at_10": 0.29786, - "precision_at_50": 0.08424, - "precision_at_100": 0.04369, - "precision_at_1000": 0.00437, - "mrr_at_1": 0.59392, - "mrr_at_3": 0.67239, - "mrr_at_5": 0.68469, - "mrr_at_10": 0.69208, - "mrr_at_50": 0.69543, - "mrr_at_100": 0.69562, - "mrr_at_1000": 0.69562 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.17609, - "ndcg_at_3": 0.16187, - "ndcg_at_5": 0.15887, - "ndcg_at_10": 0.18299, - "ndcg_at_50": 0.31491, - "ndcg_at_100": 0.37654, - "ndcg_at_1000": 0.37654, - "map_at_1": 0.0356, - "map_at_3": 0.06578, - "map_at_5": 0.0816, - "map_at_10": 0.10278, - "map_at_50": 0.14591, - "map_at_100": 0.15894, - "map_at_1000": 0.15894, - "recall_at_1": 0.0356, - "recall_at_3": 0.0876, - "recall_at_5": 0.12978, - "recall_at_10": 0.20978, - "recall_at_50": 0.56047, - "recall_at_100": 0.77778, - "recall_at_1000": 0.77778, - "precision_at_1": 0.17609, - "precision_at_3": 0.15137, - "precision_at_5": 0.13565, - "precision_at_10": 0.11318, - "precision_at_50": 0.06293, - "precision_at_100": 0.04382, - "precision_at_1000": 0.00438, - "mrr_at_1": 0.17609, - "mrr_at_3": 0.25187, - "mrr_at_5": 0.27465, - "mrr_at_10": 0.29509, - "mrr_at_50": 0.31032, - "mrr_at_100": 0.31103, - "mrr_at_1000": 0.31103 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.52841, - "ndcg_at_3": 0.49248, - "ndcg_at_5": 0.50687, - "ndcg_at_10": 0.54696, - "ndcg_at_50": 0.59338, - "ndcg_at_100": 0.59867, - "ndcg_at_1000": 0.59867, - "map_at_1": 0.23116, - "map_at_3": 0.36632, - "map_at_5": 0.41148, - "map_at_10": 0.44972, - "map_at_50": 0.46983, - "map_at_100": 0.47069, - "map_at_1000": 0.47069, - "recall_at_1": 0.23116, - "recall_at_3": 0.4233, - "recall_at_5": 0.5151, - "recall_at_10": 0.62209, - "recall_at_50": 0.76274, - "recall_at_100": 0.787, - "recall_at_1000": 0.787, - "precision_at_1": 0.52841, - "precision_at_3": 0.36985, - "precision_at_5": 0.28471, - "precision_at_10": 0.18325, - "precision_at_50": 0.04627, - "precision_at_100": 0.02381, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.529, - "mrr_at_3": 0.61287, - "mrr_at_5": 0.6269, - "mrr_at_10": 0.63363, - "mrr_at_50": 0.63749, - "mrr_at_100": 0.63763, - "mrr_at_1000": 0.63763 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.17452, - "ndcg_at_3": 0.15679, - "ndcg_at_5": 0.15901, - "ndcg_at_10": 0.18401, - "ndcg_at_50": 0.2865, - "ndcg_at_100": 0.32437, - "ndcg_at_1000": 0.32437, - "map_at_1": 0.04883, - "map_at_3": 0.07818, - "map_at_5": 0.09494, - "map_at_10": 0.11494, - "map_at_50": 0.14834, - "map_at_100": 0.15502, - "map_at_1000": 0.15502, - "recall_at_1": 0.04883, - "recall_at_3": 0.09905, - "recall_at_5": 0.14074, - "recall_at_10": 0.21516, - "recall_at_50": 0.50202, - "recall_at_100": 0.64606, - "recall_at_1000": 0.64606, - "precision_at_1": 0.17452, - "precision_at_3": 0.13721, - "precision_at_5": 0.12321, - "precision_at_10": 0.09895, - "precision_at_50": 0.04779, - "precision_at_100": 0.0306, - "precision_at_1000": 0.00306, - "mrr_at_1": 0.17396, - "mrr_at_3": 0.23186, - "mrr_at_5": 0.25208, - "mrr_at_10": 0.26837, - "mrr_at_50": 0.28357, - "mrr_at_100": 0.28453, - "mrr_at_1000": 0.28453 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.44732, - "ndcg_at_3": 0.47118, - "ndcg_at_5": 0.49369, - "ndcg_at_10": 0.52298, - "ndcg_at_50": 0.55459, - "ndcg_at_100": 0.55918, - "ndcg_at_1000": 0.55918, - "map_at_1": 0.27542, - "map_at_3": 0.39566, - "map_at_5": 0.43322, - "map_at_10": 0.462, - "map_at_50": 0.47557, - "map_at_100": 0.47613, - "map_at_1000": 0.47613, - "recall_at_1": 0.27542, - "recall_at_3": 0.45298, - "recall_at_5": 0.53286, - "recall_at_10": 0.61453, - "recall_at_50": 0.71866, - "recall_at_100": 0.74381, - "recall_at_1000": 0.74381, - "precision_at_1": 0.44732, - "precision_at_3": 0.29295, - "precision_at_5": 0.22385, - "precision_at_10": 0.14082, - "precision_at_50": 0.03423, - "precision_at_100": 0.01753, - "precision_at_1000": 0.00175, - "mrr_at_1": 0.44732, - "mrr_at_3": 0.51377, - "mrr_at_5": 0.52576, - "mrr_at_10": 0.53199, - "mrr_at_50": 0.53537, - "mrr_at_100": 0.53567, - "mrr_at_1000": 0.53567 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.32698, - "ndcg_at_3": 0.32073, - "ndcg_at_5": 0.34416, - "ndcg_at_10": 0.3867, - "ndcg_at_50": 0.46795, - "ndcg_at_100": 0.49142, - "ndcg_at_1000": 0.49142, - "map_at_1": 0.16689, - "map_at_3": 0.24176, - "map_at_5": 0.26886, - "map_at_10": 0.29393, - "map_at_50": 0.31942, - "map_at_100": 0.32343, - "map_at_1000": 0.32343, - "recall_at_1": 0.16689, - "recall_at_3": 0.30555, - "recall_at_5": 0.38347, - "recall_at_10": 0.49197, - "recall_at_50": 0.75786, - "recall_at_100": 0.85694, - "recall_at_1000": 0.85694, - "precision_at_1": 0.32698, - "precision_at_3": 0.21541, - "precision_at_5": 0.1707, - "precision_at_10": 0.11626, - "precision_at_50": 0.04002, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.32698, - "mrr_at_3": 0.41741, - "mrr_at_5": 0.43864, - "mrr_at_10": 0.45249, - "mrr_at_50": 0.46255, - "mrr_at_100": 0.46308, - "mrr_at_1000": 0.46308 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.66242, - "ndcg_at_3": 0.61658, - "ndcg_at_5": 0.63141, - "ndcg_at_10": 0.66035, - "ndcg_at_50": 0.68677, - "ndcg_at_100": 0.69012, - "ndcg_at_1000": 0.69012, - "map_at_1": 0.38844, - "map_at_3": 0.51747, - "map_at_5": 0.55404, - "map_at_10": 0.58071, - "map_at_50": 0.59296, - "map_at_100": 0.59344, - "map_at_1000": 0.59344, - "recall_at_1": 0.38844, - "recall_at_3": 0.56928, - "recall_at_5": 0.64226, - "recall_at_10": 0.71808, - "recall_at_50": 0.79707, - "recall_at_100": 0.8129, - "recall_at_1000": 0.8129, - "precision_at_1": 0.66242, - "precision_at_3": 0.38313, - "precision_at_5": 0.27736, - "precision_at_10": 0.16607, - "precision_at_50": 0.03861, - "precision_at_100": 0.01972, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.66242, - "mrr_at_3": 0.72708, - "mrr_at_5": 0.73565, - "mrr_at_10": 0.74042, - "mrr_at_50": 0.74214, - "mrr_at_100": 0.74225, - "mrr_at_1000": 0.74225 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.49047, - "ndcg_at_3": 0.44812, - "ndcg_at_5": 0.45418, - "ndcg_at_10": 0.4901, - "ndcg_at_50": 0.5413, - "ndcg_at_100": 0.54535, - "ndcg_at_1000": 0.54535, - "map_at_1": 0.20869, - "map_at_3": 0.31409, - "map_at_5": 0.3536, - "map_at_10": 0.39002, - "map_at_50": 0.41333, - "map_at_100": 0.41391, - "map_at_1000": 0.41391, - "recall_at_1": 0.20869, - "recall_at_3": 0.36829, - "recall_at_5": 0.44786, - "recall_at_10": 0.55067, - "recall_at_50": 0.70244, - "recall_at_100": 0.72196, - "recall_at_1000": 0.72196, - "precision_at_1": 0.49047, - "precision_at_3": 0.33738, - "precision_at_5": 0.26285, - "precision_at_10": 0.1725, - "precision_at_50": 0.04522, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.49047, - "mrr_at_3": 0.57635, - "mrr_at_5": 0.58915, - "mrr_at_10": 0.5959, - "mrr_at_50": 0.59956, - "mrr_at_100": 0.59977, - "mrr_at_1000": 0.59977 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.23827, - "ndcg_at_3": 0.24446, - "ndcg_at_5": 0.25902, - "ndcg_at_10": 0.29381, - "ndcg_at_50": 0.39342, - "ndcg_at_100": 0.43032, - "ndcg_at_1000": 0.43032, - "map_at_1": 0.10881, - "map_at_3": 0.16308, - "map_at_5": 0.18638, - "map_at_10": 0.21246, - "map_at_50": 0.24727, - "map_at_100": 0.25402, - "map_at_1000": 0.25402, - "recall_at_1": 0.10881, - "recall_at_3": 0.20394, - "recall_at_5": 0.26516, - "recall_at_10": 0.36344, - "recall_at_50": 0.65259, - "recall_at_100": 0.80204, - "recall_at_1000": 0.80204, - "precision_at_1": 0.23827, - "precision_at_3": 0.1832, - "precision_at_5": 0.15734, - "precision_at_10": 0.11931, - "precision_at_50": 0.04948, - "precision_at_100": 0.0308, - "precision_at_1000": 0.00308, - "mrr_at_1": 0.23827, - "mrr_at_3": 0.31818, - "mrr_at_5": 0.34201, - "mrr_at_10": 0.35816, - "mrr_at_50": 0.36962, - "mrr_at_100": 0.3705, - "mrr_at_1000": 0.3705 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.52607, - "ndcg_at_3": 0.50715, - "ndcg_at_5": 0.51351, - "ndcg_at_10": 0.54622, - "ndcg_at_50": 0.59368, - "ndcg_at_100": 0.59815, - "ndcg_at_1000": 0.59815, - "map_at_1": 0.25257, - "map_at_3": 0.36417, - "map_at_5": 0.40695, - "map_at_10": 0.44843, - "map_at_50": 0.47127, - "map_at_100": 0.47211, - "map_at_1000": 0.47211, - "recall_at_1": 0.25257, - "recall_at_3": 0.42427, - "recall_at_5": 0.50905, - "recall_at_10": 0.6128, - "recall_at_50": 0.747, - "recall_at_100": 0.76576, - "recall_at_1000": 0.76576, - "precision_at_1": 0.52607, - "precision_at_3": 0.3595, - "precision_at_5": 0.28377, - "precision_at_10": 0.18981, - "precision_at_50": 0.04905, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.52607, - "mrr_at_3": 0.61677, - "mrr_at_5": 0.63119, - "mrr_at_10": 0.63818, - "mrr_at_50": 0.64131, - "mrr_at_100": 0.64141, - "mrr_at_1000": 0.64141 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.53179, - "ndcg_at_3": 0.49634, - "ndcg_at_5": 0.49594, - "ndcg_at_10": 0.5509, - "ndcg_at_50": 0.63816, - "ndcg_at_100": 0.64898, - "ndcg_at_1000": 0.64898, - "map_at_1": 0.16994, - "map_at_3": 0.31632, - "map_at_5": 0.3732, - "map_at_10": 0.43724, - "map_at_50": 0.47915, - "map_at_100": 0.48113, - "map_at_1000": 0.48113, - "recall_at_1": 0.16994, - "recall_at_3": 0.36374, - "recall_at_5": 0.46757, - "recall_at_10": 0.62532, - "recall_at_50": 0.8805, - "recall_at_100": 0.92765, - "recall_at_1000": 0.92765, - "precision_at_1": 0.53179, - "precision_at_3": 0.42293, - "precision_at_5": 0.3422, - "precision_at_10": 0.24162, - "precision_at_50": 0.06821, - "precision_at_100": 0.03566, - "precision_at_1000": 0.00357, - "mrr_at_1": 0.53468, - "mrr_at_3": 0.62235, - "mrr_at_5": 0.63651, - "mrr_at_10": 0.64679, - "mrr_at_50": 0.65268, - "mrr_at_100": 0.65286, - "mrr_at_1000": 0.65286 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.54655, - "ndcg_at_3": 0.50306, - "ndcg_at_5": 0.48714, - "ndcg_at_10": 0.53798, - "ndcg_at_50": 0.63281, - "ndcg_at_100": 0.64657, - "ndcg_at_1000": 0.64657, - "map_at_1": 0.15471, - "map_at_3": 0.29146, - "map_at_5": 0.34746, - "map_at_10": 0.42198, - "map_at_50": 0.47144, - "map_at_100": 0.47437, - "map_at_1000": 0.47437, - "recall_at_1": 0.15471, - "recall_at_3": 0.33036, - "recall_at_5": 0.42729, - "recall_at_10": 0.59628, - "recall_at_50": 0.86076, - "recall_at_100": 0.91717, - "recall_at_1000": 0.91717, - "precision_at_1": 0.54655, - "precision_at_3": 0.44344, - "precision_at_5": 0.36156, - "precision_at_10": 0.26486, - "precision_at_50": 0.07646, - "precision_at_100": 0.04036, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.54655, - "mrr_at_3": 0.62713, - "mrr_at_5": 0.64064, - "mrr_at_10": 0.65004, - "mrr_at_50": 0.65461, - "mrr_at_100": 0.65488, - "mrr_at_1000": 0.65488 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.59172, - "ndcg_at_3": 0.53155, - "ndcg_at_5": 0.53083, - "ndcg_at_10": 0.57155, - "ndcg_at_50": 0.65226, - "ndcg_at_100": 0.66339, - "ndcg_at_1000": 0.66339, - "map_at_1": 0.17612, - "map_at_3": 0.31577, - "map_at_5": 0.39119, - "map_at_10": 0.4617, - "map_at_50": 0.50536, - "map_at_100": 0.50721, - "map_at_1000": 0.50721, - "recall_at_1": 0.17612, - "recall_at_3": 0.34851, - "recall_at_5": 0.47174, - "recall_at_10": 0.62783, - "recall_at_50": 0.84757, - "recall_at_100": 0.89912, - "recall_at_1000": 0.89912, - "precision_at_1": 0.59172, - "precision_at_3": 0.45957, - "precision_at_5": 0.38994, - "precision_at_10": 0.27515, - "precision_at_50": 0.07544, - "precision_at_100": 0.03908, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.59172, - "mrr_at_3": 0.65976, - "mrr_at_5": 0.67175, - "mrr_at_10": 0.68209, - "mrr_at_50": 0.68572, - "mrr_at_100": 0.68617, - "mrr_at_1000": 0.68617 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.59882, - "ndcg_at_3": 0.54248, - "ndcg_at_5": 0.55263, - "ndcg_at_10": 0.60488, - "ndcg_at_50": 0.69201, - "ndcg_at_100": 0.70181, - "ndcg_at_1000": 0.70181, - "map_at_1": 0.20487, - "map_at_3": 0.36112, - "map_at_5": 0.42864, - "map_at_10": 0.49365, - "map_at_50": 0.5388, - "map_at_100": 0.54076, - "map_at_1000": 0.54076, - "recall_at_1": 0.20487, - "recall_at_3": 0.40491, - "recall_at_5": 0.52075, - "recall_at_10": 0.66927, - "recall_at_50": 0.91284, - "recall_at_100": 0.95626, - "recall_at_1000": 0.95626, - "precision_at_1": 0.59882, - "precision_at_3": 0.45723, - "precision_at_5": 0.37581, - "precision_at_10": 0.25782, - "precision_at_50": 0.07168, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.59882, - "mrr_at_3": 0.68486, - "mrr_at_5": 0.69518, - "mrr_at_10": 0.70307, - "mrr_at_50": 0.70745, - "mrr_at_100": 0.7078, - "mrr_at_1000": 0.7078 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.77717, - "ndcg_at_3": 0.69558, - "ndcg_at_5": 0.68448, - "ndcg_at_10": 0.7318, - "ndcg_at_50": 0.80102, - "ndcg_at_100": 0.80438, - "ndcg_at_1000": 0.80438, - "map_at_1": 0.2746, - "map_at_3": 0.46829, - "map_at_5": 0.54702, - "map_at_10": 0.62287, - "map_at_50": 0.66587, - "map_at_100": 0.66672, - "map_at_1000": 0.66672, - "recall_at_1": 0.2746, - "recall_at_3": 0.5071, - "recall_at_5": 0.62588, - "recall_at_10": 0.77921, - "recall_at_50": 0.95991, - "recall_at_100": 0.97235, - "recall_at_1000": 0.97235, - "precision_at_1": 0.77717, - "precision_at_3": 0.56703, - "precision_at_5": 0.45489, - "precision_at_10": 0.30353, - "precision_at_50": 0.07739, - "precision_at_100": 0.03927, - "precision_at_1000": 0.00393, - "mrr_at_1": 0.77717, - "mrr_at_3": 0.83786, - "mrr_at_5": 0.84493, - "mrr_at_10": 0.84767, - "mrr_at_50": 0.84911, - "mrr_at_100": 0.84911, - "mrr_at_1000": 0.84911 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.60714, - "ndcg_at_3": 0.56017, - "ndcg_at_5": 0.56765, - "ndcg_at_10": 0.61229, - "ndcg_at_50": 0.66392, - "ndcg_at_100": 0.67024, - "ndcg_at_1000": 0.67024, - "map_at_1": 0.2701, - "map_at_3": 0.42283, - "map_at_5": 0.47485, - "map_at_10": 0.52271, - "map_at_50": 0.5472, - "map_at_100": 0.54825, - "map_at_1000": 0.54825, - "recall_at_1": 0.2701, - "recall_at_3": 0.46996, - "recall_at_5": 0.56114, - "recall_at_10": 0.67628, - "recall_at_50": 0.82316, - "recall_at_100": 0.85298, - "recall_at_1000": 0.85298, - "precision_at_1": 0.60714, - "precision_at_3": 0.41667, - "precision_at_5": 0.32202, - "precision_at_10": 0.21071, - "precision_at_50": 0.05381, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.6131, - "mrr_at_3": 0.67907, - "mrr_at_5": 0.69187, - "mrr_at_10": 0.69706, - "mrr_at_50": 0.70057, - "mrr_at_100": 0.70085, - "mrr_at_1000": 0.70085 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.63662, - "ndcg_at_3": 0.60872, - "ndcg_at_5": 0.62483, - "ndcg_at_10": 0.67362, - "ndcg_at_50": 0.72652, - "ndcg_at_100": 0.73045, - "ndcg_at_1000": 0.73045, - "map_at_1": 0.30197, - "map_at_3": 0.47805, - "map_at_5": 0.52829, - "map_at_10": 0.57089, - "map_at_50": 0.59625, - "map_at_100": 0.5968, - "map_at_1000": 0.5968, - "recall_at_1": 0.30197, - "recall_at_3": 0.55311, - "recall_at_5": 0.65005, - "recall_at_10": 0.76706, - "recall_at_50": 0.92579, - "recall_at_100": 0.94563, - "recall_at_1000": 0.94563, - "precision_at_1": 0.63662, - "precision_at_3": 0.43944, - "precision_at_5": 0.32845, - "precision_at_10": 0.2062, - "precision_at_50": 0.05138, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.63662, - "mrr_at_3": 0.73474, - "mrr_at_5": 0.74333, - "mrr_at_10": 0.74915, - "mrr_at_50": 0.75208, - "mrr_at_100": 0.75223, - "mrr_at_1000": 0.75223 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.64706, - "ndcg_at_3": 0.57952, - "ndcg_at_5": 0.59696, - "ndcg_at_10": 0.65115, - "ndcg_at_50": 0.70593, - "ndcg_at_100": 0.71251, - "ndcg_at_1000": 0.71251, - "map_at_1": 0.31739, - "map_at_3": 0.46293, - "map_at_5": 0.50874, - "map_at_10": 0.55168, - "map_at_50": 0.57543, - "map_at_100": 0.57645, - "map_at_1000": 0.57645, - "recall_at_1": 0.31739, - "recall_at_3": 0.51481, - "recall_at_5": 0.60729, - "recall_at_10": 0.73843, - "recall_at_50": 0.90702, - "recall_at_100": 0.94029, - "recall_at_1000": 0.94029, - "precision_at_1": 0.64706, - "precision_at_3": 0.40803, - "precision_at_5": 0.3042, - "precision_at_10": 0.19496, - "precision_at_50": 0.04969, - "precision_at_100": 0.02555, - "precision_at_1000": 0.00255, - "mrr_at_1": 0.64706, - "mrr_at_3": 0.71102, - "mrr_at_5": 0.72348, - "mrr_at_10": 0.73233, - "mrr_at_50": 0.73541, - "mrr_at_100": 0.73562, - "mrr_at_1000": 0.73562 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.67473, - "ndcg_at_3": 0.61337, - "ndcg_at_5": 0.61978, - "ndcg_at_10": 0.66472, - "ndcg_at_50": 0.71635, - "ndcg_at_100": 0.72243, - "ndcg_at_1000": 0.72243, - "map_at_1": 0.3588, - "map_at_3": 0.503, - "map_at_5": 0.53692, - "map_at_10": 0.57051, - "map_at_50": 0.59464, - "map_at_100": 0.59571, - "map_at_1000": 0.59571, - "recall_at_1": 0.3588, - "recall_at_3": 0.55473, - "recall_at_5": 0.62117, - "recall_at_10": 0.7232, - "recall_at_50": 0.87515, - "recall_at_100": 0.90235, - "recall_at_1000": 0.90235, - "precision_at_1": 0.67473, - "precision_at_3": 0.40323, - "precision_at_5": 0.2914, - "precision_at_10": 0.1828, - "precision_at_50": 0.04704, - "precision_at_100": 0.02433, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.67473, - "mrr_at_3": 0.75, - "mrr_at_5": 0.75901, - "mrr_at_10": 0.76489, - "mrr_at_50": 0.76697, - "mrr_at_100": 0.76713, - "mrr_at_1000": 0.76713 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.47541, - "ndcg_at_3": 0.44843, - "ndcg_at_5": 0.45967, - "ndcg_at_10": 0.51302, - "ndcg_at_50": 0.59918, - "ndcg_at_100": 0.60959, - "ndcg_at_1000": 0.60959, - "map_at_1": 0.20291, - "map_at_3": 0.32528, - "map_at_5": 0.36571, - "map_at_10": 0.41158, - "map_at_50": 0.44789, - "map_at_100": 0.44964, - "map_at_1000": 0.44964, - "recall_at_1": 0.20291, - "recall_at_3": 0.37732, - "recall_at_5": 0.4633, - "recall_at_10": 0.59484, - "recall_at_50": 0.86025, - "recall_at_100": 0.90892, - "recall_at_1000": 0.90892, - "precision_at_1": 0.47541, - "precision_at_3": 0.34517, - "precision_at_5": 0.27104, - "precision_at_10": 0.18743, - "precision_at_50": 0.05497, - "precision_at_100": 0.0288, - "precision_at_1000": 0.00288, - "mrr_at_1": 0.47541, - "mrr_at_3": 0.56694, - "mrr_at_5": 0.58128, - "mrr_at_10": 0.58936, - "mrr_at_50": 0.59725, - "mrr_at_100": 0.59761, - "mrr_at_1000": 0.59761 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.55676, - "ndcg_at_3": 0.56149, - "ndcg_at_5": 0.58701, - "ndcg_at_10": 0.64069, - "ndcg_at_50": 0.69628, - "ndcg_at_100": 0.70187, - "ndcg_at_1000": 0.70187, - "map_at_1": 0.2942, - "map_at_3": 0.45614, - "map_at_5": 0.5, - "map_at_10": 0.54195, - "map_at_50": 0.56552, - "map_at_100": 0.56636, - "map_at_1000": 0.56636, - "recall_at_1": 0.2942, - "recall_at_3": 0.54898, - "recall_at_5": 0.64309, - "recall_at_10": 0.76785, - "recall_at_50": 0.95153, - "recall_at_100": 0.97991, - "recall_at_1000": 0.97991, - "precision_at_1": 0.55676, - "precision_at_3": 0.37658, - "precision_at_5": 0.28162, - "precision_at_10": 0.18027, - "precision_at_50": 0.04551, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.55676, - "mrr_at_3": 0.66036, - "mrr_at_5": 0.67212, - "mrr_at_10": 0.67976, - "mrr_at_50": 0.68404, - "mrr_at_100": 0.68426, - "mrr_at_1000": 0.68426 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41411, - "ndcg_at_3": 0.46188, - "ndcg_at_5": 0.50032, - "ndcg_at_10": 0.55435, - "ndcg_at_50": 0.61034, - "ndcg_at_100": 0.61691, - "ndcg_at_1000": 0.61691, - "map_at_1": 0.26409, - "map_at_3": 0.3902, - "map_at_5": 0.42663, - "map_at_10": 0.46137, - "map_at_50": 0.48058, - "map_at_100": 0.48146, - "map_at_1000": 0.48146, - "recall_at_1": 0.26409, - "recall_at_3": 0.48216, - "recall_at_5": 0.58235, - "recall_at_10": 0.71556, - "recall_at_50": 0.91774, - "recall_at_100": 0.95245, - "recall_at_1000": 0.95245, - "precision_at_1": 0.41411, - "precision_at_3": 0.2863, - "precision_at_5": 0.21718, - "precision_at_10": 0.13957, - "precision_at_50": 0.03632, - "precision_at_100": 0.01877, - "precision_at_1000": 0.00188, - "mrr_at_1": 0.41104, - "mrr_at_3": 0.52505, - "mrr_at_5": 0.54346, - "mrr_at_10": 0.55393, - "mrr_at_50": 0.56091, - "mrr_at_100": 0.56117, - "mrr_at_1000": 0.56117 - }, - "gpt3": { - "ndcg_at_1": 0.37389, - "ndcg_at_3": 0.45557, - "ndcg_at_5": 0.50767, - "ndcg_at_10": 0.54113, - "ndcg_at_50": 0.58966, - "ndcg_at_100": 0.60007, - "ndcg_at_1000": 0.60007, - "map_at_1": 0.29698, - "map_at_3": 0.40517, - "map_at_5": 0.43969, - "map_at_10": 0.45713, - "map_at_50": 0.47158, - "map_at_100": 0.47279, - "map_at_1000": 0.47279, - "recall_at_1": 0.29698, - "recall_at_3": 0.51484, - "recall_at_5": 0.63056, - "recall_at_10": 0.72008, - "recall_at_50": 0.91024, - "recall_at_100": 0.9686, - "recall_at_1000": 0.9686, - "precision_at_1": 0.37389, - "precision_at_3": 0.23343, - "precision_at_5": 0.17626, - "precision_at_10": 0.10356, - "precision_at_50": 0.02682, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.37389, - "mrr_at_3": 0.48863, - "mrr_at_5": 0.51222, - "mrr_at_10": 0.52152, - "mrr_at_50": 0.52832, - "mrr_at_100": 0.52888, - "mrr_at_1000": 0.52888 - }, - "llm-survey": { - "ndcg_at_1": 0.46499, - "ndcg_at_3": 0.43154, - "ndcg_at_5": 0.46173, - "ndcg_at_10": 0.5085, - "ndcg_at_50": 0.56974, - "ndcg_at_100": 0.5862, - "ndcg_at_1000": 0.5862, - "map_at_1": 0.21087, - "map_at_3": 0.33205, - "map_at_5": 0.37823, - "map_at_10": 0.41517, - "map_at_50": 0.43849, - "map_at_100": 0.44081, - "map_at_1000": 0.44081, - "recall_at_1": 0.21087, - "recall_at_3": 0.38596, - "recall_at_5": 0.48325, - "recall_at_10": 0.6061, - "recall_at_50": 0.81333, - "recall_at_100": 0.89631, - "recall_at_1000": 0.89631, - "precision_at_1": 0.46499, - "precision_at_3": 0.31279, - "precision_at_5": 0.25266, - "precision_at_10": 0.16331, - "precision_at_50": 0.04392, - "precision_at_100": 0.02373, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.46499, - "mrr_at_3": 0.54202, - "mrr_at_5": 0.55728, - "mrr_at_10": 0.56842, - "mrr_at_50": 0.57369, - "mrr_at_100": 0.57434, - "mrr_at_1000": 0.57434 - }, - "gemini": { - "ndcg_at_1": 0.37751, - "ndcg_at_3": 0.50698, - "ndcg_at_5": 0.53377, - "ndcg_at_10": 0.5587, - "ndcg_at_50": 0.6015, - "ndcg_at_100": 0.6096, - "ndcg_at_1000": 0.6096, - "map_at_1": 0.37751, - "map_at_3": 0.47657, - "map_at_5": 0.49163, - "map_at_10": 0.50206, - "map_at_50": 0.51215, - "map_at_100": 0.51294, - "map_at_1000": 0.51294, - "recall_at_1": 0.37751, - "recall_at_3": 0.59438, - "recall_at_5": 0.65863, - "recall_at_10": 0.73494, - "recall_at_50": 0.91968, - "recall_at_100": 0.96787, - "recall_at_1000": 0.96787, - "precision_at_1": 0.37751, - "precision_at_3": 0.19813, - "precision_at_5": 0.13173, - "precision_at_10": 0.07349, - "precision_at_50": 0.01839, - "precision_at_100": 0.00968, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.37751, - "mrr_at_3": 0.47657, - "mrr_at_5": 0.49163, - "mrr_at_10": 0.50206, - "mrr_at_50": 0.51217, - "mrr_at_100": 0.51296, - "mrr_at_1000": 0.51296 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.80837, - "ndcg_at_3": 0.74413, - "ndcg_at_5": 0.75943, - "ndcg_at_10": 0.80865, - "ndcg_at_50": 0.83148, - "ndcg_at_100": 0.83217, - "ndcg_at_1000": 0.83217, - "map_at_1": 0.33711, - "map_at_3": 0.55438, - "map_at_5": 0.6483, - "map_at_10": 0.72595, - "map_at_50": 0.73964, - "map_at_100": 0.73978, - "map_at_1000": 0.73978, - "recall_at_1": 0.33711, - "recall_at_3": 0.59728, - "recall_at_5": 0.73758, - "recall_at_10": 0.87861, - "recall_at_50": 0.94591, - "recall_at_100": 0.94907, - "recall_at_1000": 0.94907, - "precision_at_1": 0.80837, - "precision_at_3": 0.57856, - "precision_at_5": 0.46531, - "precision_at_10": 0.29873, - "precision_at_50": 0.0645, - "precision_at_100": 0.03234, - "precision_at_1000": 0.00323, - "mrr_at_1": 0.80837, - "mrr_at_3": 0.85701, - "mrr_at_5": 0.86238, - "mrr_at_10": 0.86402, - "mrr_at_50": 0.86528, - "mrr_at_100": 0.8653, - "mrr_at_1000": 0.8653 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.43365, - "ndcg_at_3": 0.39586, - "ndcg_at_5": 0.40462, - "ndcg_at_10": 0.42291, - "ndcg_at_50": 0.44691, - "ndcg_at_100": 0.44994, - "ndcg_at_1000": 0.44994, - "map_at_1": 0.18028, - "map_at_3": 0.27267, - "map_at_5": 0.3177, - "map_at_10": 0.35534, - "map_at_50": 0.36667, - "map_at_100": 0.36707, - "map_at_1000": 0.36707, - "recall_at_1": 0.18028, - "recall_at_3": 0.30602, - "recall_at_5": 0.38367, - "recall_at_10": 0.45651, - "recall_at_50": 0.52959, - "recall_at_100": 0.54393, - "recall_at_1000": 0.54393, - "precision_at_1": 0.43365, - "precision_at_3": 0.30354, - "precision_at_5": 0.24964, - "precision_at_10": 0.16369, - "precision_at_50": 0.03808, - "precision_at_100": 0.01941, - "precision_at_1000": 0.00194, - "mrr_at_1": 0.43309, - "mrr_at_3": 0.48686, - "mrr_at_5": 0.49649, - "mrr_at_10": 0.49955, - "mrr_at_50": 0.50208, - "mrr_at_100": 0.50225, - "mrr_at_1000": 0.50225 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.64702, - "ndcg_at_3": 0.60437, - "ndcg_at_5": 0.60455, - "ndcg_at_10": 0.63252, - "ndcg_at_50": 0.66007, - "ndcg_at_100": 0.66313, - "ndcg_at_1000": 0.66313, - "map_at_1": 0.19764, - "map_at_3": 0.36195, - "map_at_5": 0.44852, - "map_at_10": 0.52528, - "map_at_50": 0.54285, - "map_at_100": 0.54343, - "map_at_1000": 0.54343, - "recall_at_1": 0.19764, - "recall_at_3": 0.40673, - "recall_at_5": 0.53827, - "recall_at_10": 0.66817, - "recall_at_50": 0.74053, - "recall_at_100": 0.75401, - "recall_at_1000": 0.75401, - "precision_at_1": 0.64702, - "precision_at_3": 0.52937, - "precision_at_5": 0.45068, - "precision_at_10": 0.30124, - "precision_at_50": 0.06755, - "precision_at_100": 0.03423, - "precision_at_1000": 0.00342, - "mrr_at_1": 0.64702, - "mrr_at_3": 0.73699, - "mrr_at_5": 0.74727, - "mrr_at_10": 0.74979, - "mrr_at_50": 0.75065, - "mrr_at_100": 0.75072, - "mrr_at_1000": 0.75072 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5601, - "ndcg_at_3": 0.56003, - "ndcg_at_5": 0.56914, - "ndcg_at_10": 0.59867, - "ndcg_at_50": 0.63609, - "ndcg_at_100": 0.64059, - "ndcg_at_1000": 0.64059, - "map_at_1": 0.2429, - "map_at_3": 0.38671, - "map_at_5": 0.45212, - "map_at_10": 0.51594, - "map_at_50": 0.53653, - "map_at_100": 0.53734, - "map_at_1000": 0.53734, - "recall_at_1": 0.2429, - "recall_at_3": 0.43358, - "recall_at_5": 0.53909, - "recall_at_10": 0.66109, - "recall_at_50": 0.76867, - "recall_at_100": 0.78843, - "recall_at_1000": 0.78843, - "precision_at_1": 0.5601, - "precision_at_3": 0.43432, - "precision_at_5": 0.35985, - "precision_at_10": 0.24542, - "precision_at_50": 0.0583, - "precision_at_100": 0.02978, - "precision_at_1000": 0.00298, - "mrr_at_1": 0.55886, - "mrr_at_3": 0.63548, - "mrr_at_5": 0.64722, - "mrr_at_10": 0.65374, - "mrr_at_50": 0.65657, - "mrr_at_100": 0.65672, - "mrr_at_1000": 0.65672 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.72163, - "ndcg_at_3": 0.69404, - "ndcg_at_5": 0.68644, - "ndcg_at_10": 0.71307, - "ndcg_at_50": 0.7465, - "ndcg_at_100": 0.74915, - "ndcg_at_1000": 0.74915, - "map_at_1": 0.19442, - "map_at_3": 0.39048, - "map_at_5": 0.49844, - "map_at_10": 0.61404, - "map_at_50": 0.63832, - "map_at_100": 0.63892, - "map_at_1000": 0.63892, - "recall_at_1": 0.19442, - "recall_at_3": 0.4294, - "recall_at_5": 0.57615, - "recall_at_10": 0.75358, - "recall_at_50": 0.8398, - "recall_at_100": 0.85061, - "recall_at_1000": 0.85061, - "precision_at_1": 0.72163, - "precision_at_3": 0.62309, - "precision_at_5": 0.54214, - "precision_at_10": 0.38555, - "precision_at_50": 0.08651, - "precision_at_100": 0.04369, - "precision_at_1000": 0.00437, - "mrr_at_1": 0.72147, - "mrr_at_3": 0.79008, - "mrr_at_5": 0.79819, - "mrr_at_10": 0.80118, - "mrr_at_50": 0.80221, - "mrr_at_100": 0.80226, - "mrr_at_1000": 0.80226 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.67022, - "ndcg_at_3": 0.61368, - "ndcg_at_5": 0.5987, - "ndcg_at_10": 0.62905, - "ndcg_at_50": 0.67085, - "ndcg_at_100": 0.6752, - "ndcg_at_1000": 0.6752, - "map_at_1": 0.13956, - "map_at_3": 0.29731, - "map_at_5": 0.39805, - "map_at_10": 0.50415, - "map_at_50": 0.53092, - "map_at_100": 0.53196, - "map_at_1000": 0.53196, - "recall_at_1": 0.13956, - "recall_at_3": 0.33521, - "recall_at_5": 0.48021, - "recall_at_10": 0.655, - "recall_at_50": 0.76099, - "recall_at_100": 0.77778, - "recall_at_1000": 0.77778, - "precision_at_1": 0.67022, - "precision_at_3": 0.57737, - "precision_at_5": 0.51633, - "precision_at_10": 0.37022, - "precision_at_50": 0.08609, - "precision_at_100": 0.04382, - "precision_at_1000": 0.00438, - "mrr_at_1": 0.67076, - "mrr_at_3": 0.75694, - "mrr_at_5": 0.76756, - "mrr_at_10": 0.77026, - "mrr_at_50": 0.77117, - "mrr_at_100": 0.77122, - "mrr_at_1000": 0.77122 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.43527, - "ndcg_at_3": 0.42371, - "ndcg_at_5": 0.44648, - "ndcg_at_10": 0.48912, - "ndcg_at_50": 0.54449, - "ndcg_at_100": 0.55069, - "ndcg_at_1000": 0.55069, - "map_at_1": 0.183, - "map_at_3": 0.30345, - "map_at_5": 0.35366, - "map_at_10": 0.39433, - "map_at_50": 0.41541, - "map_at_100": 0.41641, - "map_at_1000": 0.41641, - "recall_at_1": 0.183, - "recall_at_3": 0.36153, - "recall_at_5": 0.46454, - "recall_at_10": 0.58058, - "recall_at_50": 0.759, - "recall_at_100": 0.787, - "recall_at_1000": 0.787, - "precision_at_1": 0.43527, - "precision_at_3": 0.3306, - "precision_at_5": 0.26878, - "precision_at_10": 0.17627, - "precision_at_50": 0.04609, - "precision_at_100": 0.02381, - "precision_at_1000": 0.00238, - "mrr_at_1": 0.43527, - "mrr_at_3": 0.52431, - "mrr_at_5": 0.53978, - "mrr_at_10": 0.54952, - "mrr_at_50": 0.55551, - "mrr_at_100": 0.55574, - "mrr_at_1000": 0.55574 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.56011, - "ndcg_at_3": 0.50556, - "ndcg_at_5": 0.49682, - "ndcg_at_10": 0.52606, - "ndcg_at_50": 0.55469, - "ndcg_at_100": 0.55829, - "ndcg_at_1000": 0.55829, - "map_at_1": 0.14758, - "map_at_3": 0.27774, - "map_at_5": 0.34439, - "map_at_10": 0.40909, - "map_at_50": 0.42535, - "map_at_100": 0.42606, - "map_at_1000": 0.42606, - "recall_at_1": 0.14758, - "recall_at_3": 0.32283, - "recall_at_5": 0.4331, - "recall_at_10": 0.55409, - "recall_at_50": 0.63164, - "recall_at_100": 0.64606, - "recall_at_1000": 0.64606, - "precision_at_1": 0.56011, - "precision_at_3": 0.4578, - "precision_at_5": 0.3877, - "precision_at_10": 0.26177, - "precision_at_50": 0.06006, - "precision_at_100": 0.0306, - "precision_at_1000": 0.00306, - "mrr_at_1": 0.56011, - "mrr_at_3": 0.65457, - "mrr_at_5": 0.66704, - "mrr_at_10": 0.67101, - "mrr_at_50": 0.67204, - "mrr_at_100": 0.6721, - "mrr_at_1000": 0.6721 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.42397, - "ndcg_at_3": 0.44798, - "ndcg_at_5": 0.46975, - "ndcg_at_10": 0.50118, - "ndcg_at_50": 0.53641, - "ndcg_at_100": 0.54196, - "ndcg_at_1000": 0.54196, - "map_at_1": 0.26759, - "map_at_3": 0.37571, - "map_at_5": 0.41279, - "map_at_10": 0.44382, - "map_at_50": 0.45744, - "map_at_100": 0.45818, - "map_at_1000": 0.45818, - "recall_at_1": 0.26759, - "recall_at_3": 0.42804, - "recall_at_5": 0.50357, - "recall_at_10": 0.59355, - "recall_at_50": 0.71445, - "recall_at_100": 0.74381, - "recall_at_1000": 0.74381, - "precision_at_1": 0.42397, - "precision_at_3": 0.27865, - "precision_at_5": 0.21653, - "precision_at_10": 0.13817, - "precision_at_50": 0.03401, - "precision_at_100": 0.01753, - "precision_at_1000": 0.00175, - "mrr_at_1": 0.42397, - "mrr_at_3": 0.4837, - "mrr_at_5": 0.49455, - "mrr_at_10": 0.50219, - "mrr_at_50": 0.50668, - "mrr_at_100": 0.50705, - "mrr_at_1000": 0.50705 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.79154, - "ndcg_at_3": 0.70918, - "ndcg_at_5": 0.72849, - "ndcg_at_10": 0.76115, - "ndcg_at_50": 0.77484, - "ndcg_at_100": 0.77571, - "ndcg_at_1000": 0.77571, - "map_at_1": 0.40748, - "map_at_3": 0.56952, - "map_at_5": 0.6326, - "map_at_10": 0.67339, - "map_at_50": 0.68118, - "map_at_100": 0.68134, - "map_at_1000": 0.68134, - "recall_at_1": 0.40748, - "recall_at_3": 0.621, - "recall_at_5": 0.7276, - "recall_at_10": 0.8152, - "recall_at_50": 0.85313, - "recall_at_100": 0.85694, - "recall_at_1000": 0.85694, - "precision_at_1": 0.79154, - "precision_at_3": 0.48104, - "precision_at_5": 0.36581, - "precision_at_10": 0.21894, - "precision_at_50": 0.04678, - "precision_at_100": 0.02351, - "precision_at_1000": 0.00235, - "mrr_at_1": 0.79154, - "mrr_at_3": 0.84783, - "mrr_at_5": 0.8525, - "mrr_at_10": 0.85415, - "mrr_at_50": 0.85437, - "mrr_at_100": 0.8544, - "mrr_at_1000": 0.8544 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.64505, - "ndcg_at_3": 0.61862, - "ndcg_at_5": 0.64089, - "ndcg_at_10": 0.66608, - "ndcg_at_50": 0.68841, - "ndcg_at_100": 0.69065, - "ndcg_at_1000": 0.69065, - "map_at_1": 0.37725, - "map_at_3": 0.51817, - "map_at_5": 0.56432, - "map_at_10": 0.59173, - "map_at_50": 0.60049, - "map_at_100": 0.60085, - "map_at_1000": 0.60085, - "recall_at_1": 0.37725, - "recall_at_3": 0.57186, - "recall_at_5": 0.66248, - "recall_at_10": 0.7323, - "recall_at_50": 0.80298, - "recall_at_100": 0.8129, - "recall_at_1000": 0.8129, - "precision_at_1": 0.64505, - "precision_at_3": 0.39548, - "precision_at_5": 0.29473, - "precision_at_10": 0.17244, - "precision_at_50": 0.03884, - "precision_at_100": 0.01972, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.64505, - "mrr_at_3": 0.71067, - "mrr_at_5": 0.72086, - "mrr_at_10": 0.72487, - "mrr_at_50": 0.72758, - "mrr_at_100": 0.72764, - "mrr_at_1000": 0.72764 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.47776, - "ndcg_at_3": 0.45717, - "ndcg_at_5": 0.47774, - "ndcg_at_10": 0.51505, - "ndcg_at_50": 0.54983, - "ndcg_at_100": 0.55287, - "ndcg_at_1000": 0.55287, - "map_at_1": 0.19092, - "map_at_3": 0.31326, - "map_at_5": 0.37035, - "map_at_10": 0.41408, - "map_at_50": 0.42922, - "map_at_100": 0.42967, - "map_at_1000": 0.42967, - "recall_at_1": 0.19092, - "recall_at_3": 0.37682, - "recall_at_5": 0.48735, - "recall_at_10": 0.5978, - "recall_at_50": 0.70698, - "recall_at_100": 0.72196, - "recall_at_1000": 0.72196, - "precision_at_1": 0.47776, - "precision_at_3": 0.36183, - "precision_at_5": 0.29994, - "precision_at_10": 0.19359, - "precision_at_50": 0.04551, - "precision_at_100": 0.02308, - "precision_at_1000": 0.00231, - "mrr_at_1": 0.47776, - "mrr_at_3": 0.57135, - "mrr_at_5": 0.58596, - "mrr_at_10": 0.59253, - "mrr_at_50": 0.59573, - "mrr_at_100": 0.59585, - "mrr_at_1000": 0.59585 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.68271, - "ndcg_at_3": 0.63825, - "ndcg_at_5": 0.64746, - "ndcg_at_10": 0.67798, - "ndcg_at_50": 0.70103, - "ndcg_at_100": 0.70361, - "ndcg_at_1000": 0.70361, - "map_at_1": 0.26305, - "map_at_3": 0.43582, - "map_at_5": 0.51394, - "map_at_10": 0.58037, - "map_at_50": 0.59483, - "map_at_100": 0.59532, - "map_at_1000": 0.59532, - "recall_at_1": 0.26305, - "recall_at_3": 0.48712, - "recall_at_5": 0.60997, - "recall_at_10": 0.72927, - "recall_at_50": 0.79045, - "recall_at_100": 0.80204, - "recall_at_1000": 0.80204, - "precision_at_1": 0.68271, - "precision_at_3": 0.51178, - "precision_at_5": 0.4208, - "precision_at_10": 0.27415, - "precision_at_50": 0.06088, - "precision_at_100": 0.0308, - "precision_at_1000": 0.00308, - "mrr_at_1": 0.68271, - "mrr_at_3": 0.76183, - "mrr_at_5": 0.76994, - "mrr_at_10": 0.77256, - "mrr_at_50": 0.77314, - "mrr_at_100": 0.77321, - "mrr_at_1000": 0.77321 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.53661, - "ndcg_at_3": 0.53662, - "ndcg_at_5": 0.55181, - "ndcg_at_10": 0.58323, - "ndcg_at_50": 0.6149, - "ndcg_at_100": 0.61827, - "ndcg_at_1000": 0.61827, - "map_at_1": 0.2518, - "map_at_3": 0.38291, - "map_at_5": 0.44024, - "map_at_10": 0.4882, - "map_at_50": 0.50382, - "map_at_100": 0.50441, - "map_at_1000": 0.50441, - "recall_at_1": 0.2518, - "recall_at_3": 0.44589, - "recall_at_5": 0.55178, - "recall_at_10": 0.66091, - "recall_at_50": 0.75107, - "recall_at_100": 0.76576, - "recall_at_1000": 0.76576, - "precision_at_1": 0.53661, - "precision_at_3": 0.39738, - "precision_at_5": 0.32665, - "precision_at_10": 0.21201, - "precision_at_50": 0.04943, - "precision_at_100": 0.02518, - "precision_at_1000": 0.00252, - "mrr_at_1": 0.53603, - "mrr_at_3": 0.62908, - "mrr_at_5": 0.64431, - "mrr_at_10": 0.65043, - "mrr_at_50": 0.65313, - "mrr_at_100": 0.65323, - "mrr_at_1000": 0.65323 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.52601, - "ndcg_at_3": 0.49908, - "ndcg_at_5": 0.51496, - "ndcg_at_10": 0.56781, - "ndcg_at_50": 0.64595, - "ndcg_at_100": 0.65446, - "ndcg_at_1000": 0.65446, - "map_at_1": 0.1612, - "map_at_3": 0.31542, - "map_at_5": 0.39053, - "map_at_10": 0.46293, - "map_at_50": 0.49772, - "map_at_100": 0.49929, - "map_at_1000": 0.49929, - "recall_at_1": 0.1612, - "recall_at_3": 0.36832, - "recall_at_5": 0.49278, - "recall_at_10": 0.65002, - "recall_at_50": 0.88946, - "recall_at_100": 0.92765, - "recall_at_1000": 0.92765, - "precision_at_1": 0.52601, - "precision_at_3": 0.43449, - "precision_at_5": 0.37688, - "precision_at_10": 0.26156, - "precision_at_50": 0.06908, - "precision_at_100": 0.03566, - "precision_at_1000": 0.00357, - "mrr_at_1": 0.52601, - "mrr_at_3": 0.61224, - "mrr_at_5": 0.62828, - "mrr_at_10": 0.63637, - "mrr_at_50": 0.6429, - "mrr_at_100": 0.64312, - "mrr_at_1000": 0.64312 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.58859, - "ndcg_at_3": 0.55471, - "ndcg_at_5": 0.5478, - "ndcg_at_10": 0.61024, - "ndcg_at_50": 0.6812, - "ndcg_at_100": 0.68821, - "ndcg_at_1000": 0.68821, - "map_at_1": 0.16555, - "map_at_3": 0.32735, - "map_at_5": 0.40791, - "map_at_10": 0.50441, - "map_at_50": 0.54116, - "map_at_100": 0.54237, - "map_at_1000": 0.54237, - "recall_at_1": 0.16555, - "recall_at_3": 0.36894, - "recall_at_5": 0.48535, - "recall_at_10": 0.68536, - "recall_at_50": 0.88418, - "recall_at_100": 0.91717, - "recall_at_1000": 0.91717, - "precision_at_1": 0.58859, - "precision_at_3": 0.5005, - "precision_at_5": 0.42042, - "precision_at_10": 0.30871, - "precision_at_50": 0.0791, - "precision_at_100": 0.04036, - "precision_at_1000": 0.00404, - "mrr_at_1": 0.58859, - "mrr_at_3": 0.67167, - "mrr_at_5": 0.67978, - "mrr_at_10": 0.68749, - "mrr_at_50": 0.69166, - "mrr_at_100": 0.69189, - "mrr_at_1000": 0.69189 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.59763, - "ndcg_at_3": 0.58764, - "ndcg_at_5": 0.58953, - "ndcg_at_10": 0.63948, - "ndcg_at_50": 0.69708, - "ndcg_at_100": 0.70161, - "ndcg_at_1000": 0.70161, - "map_at_1": 0.17118, - "map_at_3": 0.35555, - "map_at_5": 0.44307, - "map_at_10": 0.53929, - "map_at_50": 0.56986, - "map_at_100": 0.57077, - "map_at_1000": 0.57077, - "recall_at_1": 0.17118, - "recall_at_3": 0.40294, - "recall_at_5": 0.53072, - "recall_at_10": 0.71344, - "recall_at_50": 0.88059, - "recall_at_100": 0.89912, - "recall_at_1000": 0.89912, - "precision_at_1": 0.59763, - "precision_at_3": 0.52367, - "precision_at_5": 0.44852, - "precision_at_10": 0.31923, - "precision_at_50": 0.0768, - "precision_at_100": 0.03908, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.59763, - "mrr_at_3": 0.68393, - "mrr_at_5": 0.69354, - "mrr_at_10": 0.70119, - "mrr_at_50": 0.70582, - "mrr_at_100": 0.70588, - "mrr_at_1000": 0.70588 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.58997, - "ndcg_at_3": 0.55949, - "ndcg_at_5": 0.5686, - "ndcg_at_10": 0.62803, - "ndcg_at_50": 0.70329, - "ndcg_at_100": 0.70867, - "ndcg_at_1000": 0.70867, - "map_at_1": 0.1904, - "map_at_3": 0.37234, - "map_at_5": 0.44692, - "map_at_10": 0.52968, - "map_at_50": 0.56517, - "map_at_100": 0.56619, - "map_at_1000": 0.56619, - "recall_at_1": 0.1904, - "recall_at_3": 0.42086, - "recall_at_5": 0.5447, - "recall_at_10": 0.71423, - "recall_at_50": 0.9332, - "recall_at_100": 0.95626, - "recall_at_1000": 0.95626, - "precision_at_1": 0.58997, - "precision_at_3": 0.48771, - "precision_at_5": 0.40354, - "precision_at_10": 0.28201, - "precision_at_50": 0.07286, - "precision_at_100": 0.03717, - "precision_at_1000": 0.00372, - "mrr_at_1": 0.58997, - "mrr_at_3": 0.65929, - "mrr_at_5": 0.67522, - "mrr_at_10": 0.68243, - "mrr_at_50": 0.68937, - "mrr_at_100": 0.68946, - "mrr_at_1000": 0.68946 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.63043, - "ndcg_at_3": 0.57435, - "ndcg_at_5": 0.58996, - "ndcg_at_10": 0.65355, - "ndcg_at_50": 0.72676, - "ndcg_at_100": 0.73499, - "ndcg_at_1000": 0.73499, - "map_at_1": 0.22181, - "map_at_3": 0.37945, - "map_at_5": 0.46195, - "map_at_10": 0.54691, - "map_at_50": 0.58499, - "map_at_100": 0.58668, - "map_at_1000": 0.58668, - "recall_at_1": 0.22181, - "recall_at_3": 0.42174, - "recall_at_5": 0.55851, - "recall_at_10": 0.73552, - "recall_at_50": 0.93919, - "recall_at_100": 0.97235, - "recall_at_1000": 0.97235, - "precision_at_1": 0.63043, - "precision_at_3": 0.47645, - "precision_at_5": 0.40924, - "precision_at_10": 0.29158, - "precision_at_50": 0.07592, - "precision_at_100": 0.03927, - "precision_at_1000": 0.00393, - "mrr_at_1": 0.63043, - "mrr_at_3": 0.70199, - "mrr_at_5": 0.71735, - "mrr_at_10": 0.72497, - "mrr_at_50": 0.72781, - "mrr_at_100": 0.72799, - "mrr_at_1000": 0.72799 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.50595, - "ndcg_at_3": 0.49525, - "ndcg_at_5": 0.51021, - "ndcg_at_10": 0.55684, - "ndcg_at_50": 0.61054, - "ndcg_at_100": 0.62042, - "ndcg_at_1000": 0.62042, - "map_at_1": 0.20634, - "map_at_3": 0.36155, - "map_at_5": 0.41895, - "map_at_10": 0.46781, - "map_at_50": 0.48993, - "map_at_100": 0.49174, - "map_at_1000": 0.49174, - "recall_at_1": 0.20634, - "recall_at_3": 0.41812, - "recall_at_5": 0.52507, - "recall_at_10": 0.64401, - "recall_at_50": 0.81053, - "recall_at_100": 0.85298, - "recall_at_1000": 0.85298, - "precision_at_1": 0.50595, - "precision_at_3": 0.39187, - "precision_at_5": 0.31131, - "precision_at_10": 0.20476, - "precision_at_50": 0.0525, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.50595, - "mrr_at_3": 0.58829, - "mrr_at_5": 0.60198, - "mrr_at_10": 0.60874, - "mrr_at_50": 0.61432, - "mrr_at_100": 0.61457, - "mrr_at_1000": 0.61457 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.59437, - "ndcg_at_3": 0.55668, - "ndcg_at_5": 0.58434, - "ndcg_at_10": 0.64964, - "ndcg_at_50": 0.69674, - "ndcg_at_100": 0.70249, - "ndcg_at_1000": 0.70249, - "map_at_1": 0.2822, - "map_at_3": 0.43476, - "map_at_5": 0.49075, - "map_at_10": 0.54717, - "map_at_50": 0.5665, - "map_at_100": 0.56737, - "map_at_1000": 0.56737, - "recall_at_1": 0.2822, - "recall_at_3": 0.49997, - "recall_at_5": 0.60745, - "recall_at_10": 0.76046, - "recall_at_50": 0.91648, - "recall_at_100": 0.94563, - "recall_at_1000": 0.94563, - "precision_at_1": 0.59437, - "precision_at_3": 0.40563, - "precision_at_5": 0.31944, - "precision_at_10": 0.21268, - "precision_at_50": 0.05115, - "precision_at_100": 0.02614, - "precision_at_1000": 0.00261, - "mrr_at_1": 0.59437, - "mrr_at_3": 0.68498, - "mrr_at_5": 0.69582, - "mrr_at_10": 0.70218, - "mrr_at_50": 0.70553, - "mrr_at_100": 0.70583, - "mrr_at_1000": 0.70583 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.54622, - "ndcg_at_3": 0.53288, - "ndcg_at_5": 0.56003, - "ndcg_at_10": 0.61648, - "ndcg_at_50": 0.67342, - "ndcg_at_100": 0.67908, - "ndcg_at_1000": 0.67908, - "map_at_1": 0.26477, - "map_at_3": 0.41719, - "map_at_5": 0.47107, - "map_at_10": 0.51654, - "map_at_50": 0.53816, - "map_at_100": 0.53901, - "map_at_1000": 0.53901, - "recall_at_1": 0.26477, - "recall_at_3": 0.48896, - "recall_at_5": 0.59453, - "recall_at_10": 0.72517, - "recall_at_50": 0.9109, - "recall_at_100": 0.94029, - "recall_at_1000": 0.94029, - "precision_at_1": 0.54622, - "precision_at_3": 0.38936, - "precision_at_5": 0.30028, - "precision_at_10": 0.19552, - "precision_at_50": 0.04997, - "precision_at_100": 0.02555, - "precision_at_1000": 0.00255, - "mrr_at_1": 0.54622, - "mrr_at_3": 0.64706, - "mrr_at_5": 0.657, - "mrr_at_10": 0.6653, - "mrr_at_50": 0.67057, - "mrr_at_100": 0.67084, - "mrr_at_1000": 0.67084 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.5914, - "ndcg_at_3": 0.57551, - "ndcg_at_5": 0.59011, - "ndcg_at_10": 0.64118, - "ndcg_at_50": 0.68789, - "ndcg_at_100": 0.69328, - "ndcg_at_1000": 0.69328, - "map_at_1": 0.30112, - "map_at_3": 0.46189, - "map_at_5": 0.5061, - "map_at_10": 0.54871, - "map_at_50": 0.56742, - "map_at_100": 0.56835, - "map_at_1000": 0.56835, - "recall_at_1": 0.30112, - "recall_at_3": 0.52386, - "recall_at_5": 0.61412, - "recall_at_10": 0.73106, - "recall_at_50": 0.879, - "recall_at_100": 0.90235, - "recall_at_1000": 0.90235, - "precision_at_1": 0.5914, - "precision_at_3": 0.40143, - "precision_at_5": 0.30215, - "precision_at_10": 0.19167, - "precision_at_50": 0.0472, - "precision_at_100": 0.02433, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.5914, - "mrr_at_3": 0.67921, - "mrr_at_5": 0.69144, - "mrr_at_10": 0.69849, - "mrr_at_50": 0.70249, - "mrr_at_100": 0.70257, - "mrr_at_1000": 0.70257 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.3306, - "ndcg_at_3": 0.3431, - "ndcg_at_5": 0.36436, - "ndcg_at_10": 0.41195, - "ndcg_at_50": 0.51537, - "ndcg_at_100": 0.53398, - "ndcg_at_1000": 0.53398, - "map_at_1": 0.15673, - "map_at_3": 0.24856, - "map_at_5": 0.2846, - "map_at_10": 0.32342, - "map_at_50": 0.36046, - "map_at_100": 0.36375, - "map_at_1000": 0.36375, - "recall_at_1": 0.15673, - "recall_at_3": 0.30039, - "recall_at_5": 0.38133, - "recall_at_10": 0.498, - "recall_at_50": 0.82889, - "recall_at_100": 0.90892, - "recall_at_1000": 0.90892, - "precision_at_1": 0.3306, - "precision_at_3": 0.26412, - "precision_at_5": 0.21967, - "precision_at_10": 0.15328, - "precision_at_50": 0.0524, - "precision_at_100": 0.0288, - "precision_at_1000": 0.00288, - "mrr_at_1": 0.3306, - "mrr_at_3": 0.42851, - "mrr_at_5": 0.44859, - "mrr_at_10": 0.45952, - "mrr_at_50": 0.4703, - "mrr_at_100": 0.4708, - "mrr_at_1000": 0.4708 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.4027, - "ndcg_at_3": 0.40943, - "ndcg_at_5": 0.44801, - "ndcg_at_10": 0.50742, - "ndcg_at_50": 0.58416, - "ndcg_at_100": 0.59821, - "ndcg_at_1000": 0.59821, - "map_at_1": 0.22978, - "map_at_3": 0.34056, - "map_at_5": 0.38331, - "map_at_10": 0.42383, - "map_at_50": 0.44923, - "map_at_100": 0.45134, - "map_at_1000": 0.45134, - "recall_at_1": 0.22978, - "recall_at_3": 0.39342, - "recall_at_5": 0.49535, - "recall_at_10": 0.63807, - "recall_at_50": 0.91126, - "recall_at_100": 0.97991, - "recall_at_1000": 0.97991, - "precision_at_1": 0.4027, - "precision_at_3": 0.27477, - "precision_at_5": 0.22378, - "precision_at_10": 0.1527, - "precision_at_50": 0.04362, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.4027, - "mrr_at_3": 0.47883, - "mrr_at_5": 0.49815, - "mrr_at_10": 0.50966, - "mrr_at_50": 0.51989, - "mrr_at_100": 0.52054, - "mrr_at_1000": 0.52054 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.46626, - "ndcg_at_3": 0.49881, - "ndcg_at_5": 0.55324, - "ndcg_at_10": 0.61723, - "ndcg_at_50": 0.65237, - "ndcg_at_100": 0.65678, - "ndcg_at_1000": 0.65678, - "map_at_1": 0.29972, - "map_at_3": 0.42361, - "map_at_5": 0.47731, - "map_at_10": 0.5214, - "map_at_50": 0.53322, - "map_at_100": 0.53369, - "map_at_1000": 0.53369, - "recall_at_1": 0.29972, - "recall_at_3": 0.50949, - "recall_at_5": 0.6389, - "recall_at_10": 0.79668, - "recall_at_50": 0.92689, - "recall_at_100": 0.95245, - "recall_at_1000": 0.95245, - "precision_at_1": 0.46626, - "precision_at_3": 0.30777, - "precision_at_5": 0.24663, - "precision_at_10": 0.16104, - "precision_at_50": 0.03687, - "precision_at_100": 0.01877, - "precision_at_1000": 0.00188, - "mrr_at_1": 0.46626, - "mrr_at_3": 0.57106, - "mrr_at_5": 0.59177, - "mrr_at_10": 0.60167, - "mrr_at_50": 0.60669, - "mrr_at_100": 0.60694, - "mrr_at_1000": 0.60694 - }, - "gpt3": { - "ndcg_at_1": 0.35015, - "ndcg_at_3": 0.44166, - "ndcg_at_5": 0.48255, - "ndcg_at_10": 0.53384, - "ndcg_at_50": 0.57876, - "ndcg_at_100": 0.59022, - "ndcg_at_1000": 0.59022, - "map_at_1": 0.28363, - "map_at_3": 0.39495, - "map_at_5": 0.42216, - "map_at_10": 0.44939, - "map_at_50": 0.46232, - "map_at_100": 0.46365, - "map_at_1000": 0.46365, - "recall_at_1": 0.28363, - "recall_at_3": 0.50791, - "recall_at_5": 0.59322, - "recall_at_10": 0.72527, - "recall_at_50": 0.90381, - "recall_at_100": 0.9686, - "recall_at_1000": 0.9686, - "precision_at_1": 0.35015, - "precision_at_3": 0.22453, - "precision_at_5": 0.16558, - "precision_at_10": 0.10801, - "precision_at_50": 0.02677, - "precision_at_100": 0.01424, - "precision_at_1000": 0.00142, - "mrr_at_1": 0.35015, - "mrr_at_3": 0.45945, - "mrr_at_5": 0.48007, - "mrr_at_10": 0.49546, - "mrr_at_50": 0.50244, - "mrr_at_100": 0.50317, - "mrr_at_1000": 0.50317 - }, - "llm-survey": { - "ndcg_at_1": 0.44538, - "ndcg_at_3": 0.44792, - "ndcg_at_5": 0.47959, - "ndcg_at_10": 0.53328, - "ndcg_at_50": 0.59062, - "ndcg_at_100": 0.59939, - "ndcg_at_1000": 0.59939, - "map_at_1": 0.19476, - "map_at_3": 0.33751, - "map_at_5": 0.39072, - "map_at_10": 0.43671, - "map_at_50": 0.45785, - "map_at_100": 0.459, - "map_at_1000": 0.459, - "recall_at_1": 0.19476, - "recall_at_3": 0.41308, - "recall_at_5": 0.5209, - "recall_at_10": 0.6534, - "recall_at_50": 0.85046, - "recall_at_100": 0.89631, - "recall_at_1000": 0.89631, - "precision_at_1": 0.44538, - "precision_at_3": 0.33894, - "precision_at_5": 0.27395, - "precision_at_10": 0.18011, - "precision_at_50": 0.04583, - "precision_at_100": 0.02373, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.44538, - "mrr_at_3": 0.54295, - "mrr_at_5": 0.55808, - "mrr_at_10": 0.56727, - "mrr_at_50": 0.57343, - "mrr_at_100": 0.57389, - "mrr_at_1000": 0.57389 - }, - "gemini": { - "ndcg_at_1": 0.4257, - "ndcg_at_3": 0.55646, - "ndcg_at_5": 0.58774, - "ndcg_at_10": 0.60883, - "ndcg_at_50": 0.6373, - "ndcg_at_100": 0.64509, - "ndcg_at_1000": 0.64509, - "map_at_1": 0.4257, - "map_at_3": 0.52276, - "map_at_5": 0.54003, - "map_at_10": 0.5489, - "map_at_50": 0.55548, - "map_at_100": 0.55615, - "map_at_1000": 0.55615, - "recall_at_1": 0.4257, - "recall_at_3": 0.65462, - "recall_at_5": 0.73092, - "recall_at_10": 0.79518, - "recall_at_50": 0.91968, - "recall_at_100": 0.96787, - "recall_at_1000": 0.96787, - "precision_at_1": 0.4257, - "precision_at_3": 0.21821, - "precision_at_5": 0.14618, - "precision_at_10": 0.07952, - "precision_at_50": 0.01839, - "precision_at_100": 0.00968, - "precision_at_1000": 0.00097, - "mrr_at_1": 0.4257, - "mrr_at_3": 0.52276, - "mrr_at_5": 0.53922, - "mrr_at_10": 0.54877, - "mrr_at_50": 0.55541, - "mrr_at_100": 0.5561, - "mrr_at_1000": 0.5561 - } - } - } - } - } - }, - "[multilingual-e5-small](https://huggingface.co/intfloat/multilingual-e5-small)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.69438, - "ndcg_at_3": 0.63148, - "ndcg_at_5": 0.64518, - "ndcg_at_10": 0.69624, - "ndcg_at_50": 0.73866, - "ndcg_at_100": 0.74186, - "ndcg_at_1000": 0.74186, - "map_at_1": 0.27962, - "map_at_3": 0.45004, - "map_at_5": 0.52819, - "map_at_10": 0.59674, - "map_at_50": 0.62067, - "map_at_100": 0.62115, - "map_at_1000": 0.62115, - "recall_at_1": 0.27962, - "recall_at_3": 0.49783, - "recall_at_5": 0.62574, - "recall_at_10": 0.77569, - "recall_at_50": 0.89824, - "recall_at_100": 0.91442, - "recall_at_1000": 0.91442, - "precision_at_1": 0.69438, - "precision_at_3": 0.49358, - "precision_at_5": 0.40187, - "precision_at_10": 0.26465, - "precision_at_50": 0.06205, - "precision_at_100": 0.03135, - "precision_at_1000": 0.00314, - "mrr_at_1": 0.69438, - "mrr_at_3": 0.75716, - "mrr_at_5": 0.76737, - "mrr_at_10": 0.77213, - "mrr_at_50": 0.77398, - "mrr_at_100": 0.77413, - "mrr_at_1000": 0.77413 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.23876, - "ndcg_at_3": 0.23414, - "ndcg_at_5": 0.24088, - "ndcg_at_10": 0.25448, - "ndcg_at_50": 0.28237, - "ndcg_at_100": 0.28707, - "ndcg_at_1000": 0.28707, - "map_at_1": 0.08346, - "map_at_3": 0.14316, - "map_at_5": 0.17217, - "map_at_10": 0.1973, - "map_at_50": 0.21044, - "map_at_100": 0.21116, - "map_at_1000": 0.21116, - "recall_at_1": 0.08346, - "recall_at_3": 0.17553, - "recall_at_5": 0.23326, - "recall_at_10": 0.28962, - "recall_at_50": 0.37152, - "recall_at_100": 0.39219, - "recall_at_1000": 0.39219, - "precision_at_1": 0.23876, - "precision_at_3": 0.1936, - "precision_at_5": 0.1628, - "precision_at_10": 0.11011, - "precision_at_50": 0.02858, - "precision_at_100": 0.01494, - "precision_at_1000": 0.00149, - "mrr_at_1": 0.23876, - "mrr_at_3": 0.29817, - "mrr_at_5": 0.30825, - "mrr_at_10": 0.31225, - "mrr_at_50": 0.31521, - "mrr_at_100": 0.31544, - "mrr_at_1000": 0.31544 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.48379, - "ndcg_at_3": 0.44051, - "ndcg_at_5": 0.42827, - "ndcg_at_10": 0.44601, - "ndcg_at_50": 0.48642, - "ndcg_at_100": 0.4901, - "ndcg_at_1000": 0.4901, - "map_at_1": 0.14315, - "map_at_3": 0.24794, - "map_at_5": 0.29701, - "map_at_10": 0.34307, - "map_at_50": 0.36456, - "map_at_100": 0.36524, - "map_at_1000": 0.36524, - "recall_at_1": 0.14315, - "recall_at_3": 0.28616, - "recall_at_5": 0.36931, - "recall_at_10": 0.46877, - "recall_at_50": 0.5751, - "recall_at_100": 0.58917, - "recall_at_1000": 0.58917, - "precision_at_1": 0.48379, - "precision_at_3": 0.38224, - "precision_at_5": 0.3155, - "precision_at_10": 0.21273, - "precision_at_50": 0.0532, - "precision_at_100": 0.02722, - "precision_at_1000": 0.00272, - "mrr_at_1": 0.48379, - "mrr_at_3": 0.56855, - "mrr_at_5": 0.58216, - "mrr_at_10": 0.5878, - "mrr_at_50": 0.59031, - "mrr_at_100": 0.5905, - "mrr_at_1000": 0.5905 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5254, - "ndcg_at_3": 0.51394, - "ndcg_at_5": 0.5169, - "ndcg_at_10": 0.53829, - "ndcg_at_50": 0.57261, - "ndcg_at_100": 0.57599, - "ndcg_at_1000": 0.57599, - "map_at_1": 0.2156, - "map_at_3": 0.3473, - "map_at_5": 0.39999, - "map_at_10": 0.45321, - "map_at_50": 0.47405, - "map_at_100": 0.47459, - "map_at_1000": 0.47459, - "recall_at_1": 0.2156, - "recall_at_3": 0.39717, - "recall_at_5": 0.48481, - "recall_at_10": 0.58687, - "recall_at_50": 0.67817, - "recall_at_100": 0.69414, - "recall_at_1000": 0.69414, - "precision_at_1": 0.5254, - "precision_at_3": 0.39798, - "precision_at_5": 0.32342, - "precision_at_10": 0.21778, - "precision_at_50": 0.05245, - "precision_at_100": 0.02666, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.52602, - "mrr_at_3": 0.60698, - "mrr_at_5": 0.61727, - "mrr_at_10": 0.62128, - "mrr_at_50": 0.62361, - "mrr_at_100": 0.62377, - "mrr_at_1000": 0.62377 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.66482, - "ndcg_at_3": 0.62663, - "ndcg_at_5": 0.61629, - "ndcg_at_10": 0.63956, - "ndcg_at_50": 0.68587, - "ndcg_at_100": 0.68906, - "ndcg_at_1000": 0.68906, - "map_at_1": 0.1758, - "map_at_3": 0.3418, - "map_at_5": 0.43441, - "map_at_10": 0.53381, - "map_at_50": 0.56715, - "map_at_100": 0.56785, - "map_at_1000": 0.56785, - "recall_at_1": 0.1758, - "recall_at_3": 0.37892, - "recall_at_5": 0.5088, - "recall_at_10": 0.67207, - "recall_at_50": 0.78595, - "recall_at_100": 0.79896, - "recall_at_1000": 0.79896, - "precision_at_1": 0.66482, - "precision_at_3": 0.56148, - "precision_at_5": 0.48786, - "precision_at_10": 0.34839, - "precision_at_50": 0.08287, - "precision_at_100": 0.04196, - "precision_at_1000": 0.0042, - "mrr_at_1": 0.66482, - "mrr_at_3": 0.73825, - "mrr_at_5": 0.74691, - "mrr_at_10": 0.75058, - "mrr_at_50": 0.75199, - "mrr_at_100": 0.75207, - "mrr_at_1000": 0.75207 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.5539, - "ndcg_at_3": 0.49426, - "ndcg_at_5": 0.46295, - "ndcg_at_10": 0.47068, - "ndcg_at_50": 0.53149, - "ndcg_at_100": 0.53815, - "ndcg_at_1000": 0.53815, - "map_at_1": 0.11414, - "map_at_3": 0.22724, - "map_at_5": 0.28593, - "map_at_10": 0.34409, - "map_at_50": 0.37794, - "map_at_100": 0.37936, - "map_at_1000": 0.37936, - "recall_at_1": 0.11414, - "recall_at_3": 0.26306, - "recall_at_5": 0.35826, - "recall_at_10": 0.47354, - "recall_at_50": 0.62301, - "recall_at_100": 0.64853, - "recall_at_1000": 0.64853, - "precision_at_1": 0.5539, - "precision_at_3": 0.45945, - "precision_at_5": 0.38815, - "precision_at_10": 0.26745, - "precision_at_50": 0.07141, - "precision_at_100": 0.03687, - "precision_at_1000": 0.00369, - "mrr_at_1": 0.5539, - "mrr_at_3": 0.6479, - "mrr_at_5": 0.66145, - "mrr_at_10": 0.66685, - "mrr_at_50": 0.66872, - "mrr_at_100": 0.66885, - "mrr_at_1000": 0.66885 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.54189, - "ndcg_at_3": 0.50893, - "ndcg_at_5": 0.52884, - "ndcg_at_10": 0.56492, - "ndcg_at_50": 0.59009, - "ndcg_at_100": 0.59354, - "ndcg_at_1000": 0.59354, - "map_at_1": 0.22296, - "map_at_3": 0.37088, - "map_at_5": 0.42726, - "map_at_10": 0.46926, - "map_at_50": 0.48067, - "map_at_100": 0.48121, - "map_at_1000": 0.48121, - "recall_at_1": 0.22296, - "recall_at_3": 0.43016, - "recall_at_5": 0.53769, - "recall_at_10": 0.63933, - "recall_at_50": 0.71977, - "recall_at_100": 0.73622, - "recall_at_1000": 0.73622, - "precision_at_1": 0.54189, - "precision_at_3": 0.3966, - "precision_at_5": 0.3147, - "precision_at_10": 0.19754, - "precision_at_50": 0.04407, - "precision_at_100": 0.02243, - "precision_at_1000": 0.00224, - "mrr_at_1": 0.54189, - "mrr_at_3": 0.62781, - "mrr_at_5": 0.64157, - "mrr_at_10": 0.64616, - "mrr_at_50": 0.64827, - "mrr_at_100": 0.6484, - "mrr_at_1000": 0.6484 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.40388, - "ndcg_at_3": 0.35671, - "ndcg_at_5": 0.34485, - "ndcg_at_10": 0.35864, - "ndcg_at_50": 0.39861, - "ndcg_at_100": 0.40388, - "ndcg_at_1000": 0.40388, - "map_at_1": 0.1011, - "map_at_3": 0.18295, - "map_at_5": 0.22309, - "map_at_10": 0.25853, - "map_at_50": 0.27744, - "map_at_100": 0.27835, - "map_at_1000": 0.27835, - "recall_at_1": 0.1011, - "recall_at_3": 0.21753, - "recall_at_5": 0.29167, - "recall_at_10": 0.37294, - "recall_at_50": 0.47975, - "recall_at_100": 0.50099, - "recall_at_1000": 0.50099, - "precision_at_1": 0.40388, - "precision_at_3": 0.31985, - "precision_at_5": 0.26881, - "precision_at_10": 0.17994, - "precision_at_50": 0.0467, - "precision_at_100": 0.02421, - "precision_at_1000": 0.00242, - "mrr_at_1": 0.40388, - "mrr_at_3": 0.48809, - "mrr_at_5": 0.50548, - "mrr_at_10": 0.51157, - "mrr_at_50": 0.51449, - "mrr_at_100": 0.51467, - "mrr_at_1000": 0.51467 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.4612, - "ndcg_at_3": 0.47941, - "ndcg_at_5": 0.49893, - "ndcg_at_10": 0.52421, - "ndcg_at_50": 0.54609, - "ndcg_at_100": 0.5495, - "ndcg_at_1000": 0.5495, - "map_at_1": 0.27222, - "map_at_3": 0.39655, - "map_at_5": 0.43578, - "map_at_10": 0.46538, - "map_at_50": 0.47531, - "map_at_100": 0.47568, - "map_at_1000": 0.47568, - "recall_at_1": 0.27222, - "recall_at_3": 0.45469, - "recall_at_5": 0.53275, - "recall_at_10": 0.60638, - "recall_at_50": 0.68101, - "recall_at_100": 0.70071, - "recall_at_1000": 0.70071, - "precision_at_1": 0.4612, - "precision_at_3": 0.30768, - "precision_at_5": 0.23483, - "precision_at_10": 0.14524, - "precision_at_50": 0.03297, - "precision_at_100": 0.01676, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.46057, - "mrr_at_3": 0.52734, - "mrr_at_5": 0.53564, - "mrr_at_10": 0.53949, - "mrr_at_50": 0.54187, - "mrr_at_100": 0.54211, - "mrr_at_1000": 0.54211 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.64145, - "ndcg_at_3": 0.56919, - "ndcg_at_5": 0.57825, - "ndcg_at_10": 0.60961, - "ndcg_at_50": 0.63411, - "ndcg_at_100": 0.63743, - "ndcg_at_1000": 0.63743, - "map_at_1": 0.32801, - "map_at_3": 0.44375, - "map_at_5": 0.48428, - "map_at_10": 0.51625, - "map_at_50": 0.52729, - "map_at_100": 0.5278, - "map_at_1000": 0.5278, - "recall_at_1": 0.32801, - "recall_at_3": 0.49745, - "recall_at_5": 0.57708, - "recall_at_10": 0.66147, - "recall_at_50": 0.73477, - "recall_at_100": 0.7504, - "recall_at_1000": 0.7504, - "precision_at_1": 0.64145, - "precision_at_3": 0.38217, - "precision_at_5": 0.28326, - "precision_at_10": 0.17362, - "precision_at_50": 0.03975, - "precision_at_100": 0.02027, - "precision_at_1000": 0.00203, - "mrr_at_1": 0.64205, - "mrr_at_3": 0.71372, - "mrr_at_5": 0.72224, - "mrr_at_10": 0.72641, - "mrr_at_50": 0.7281, - "mrr_at_100": 0.72822, - "mrr_at_1000": 0.72822 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.60336, - "ndcg_at_3": 0.57441, - "ndcg_at_5": 0.58954, - "ndcg_at_10": 0.61103, - "ndcg_at_50": 0.62991, - "ndcg_at_100": 0.63193, - "ndcg_at_1000": 0.63193, - "map_at_1": 0.34465, - "map_at_3": 0.47179, - "map_at_5": 0.50907, - "map_at_10": 0.53152, - "map_at_50": 0.5403, - "map_at_100": 0.54058, - "map_at_1000": 0.54058, - "recall_at_1": 0.34465, - "recall_at_3": 0.53064, - "recall_at_5": 0.60655, - "recall_at_10": 0.66801, - "recall_at_50": 0.72607, - "recall_at_100": 0.73595, - "recall_at_1000": 0.73595, - "precision_at_1": 0.60336, - "precision_at_3": 0.36653, - "precision_at_5": 0.26891, - "precision_at_10": 0.15646, - "precision_at_50": 0.03497, - "precision_at_100": 0.01771, - "precision_at_1000": 0.00177, - "mrr_at_1": 0.60336, - "mrr_at_3": 0.67989, - "mrr_at_5": 0.68912, - "mrr_at_10": 0.69244, - "mrr_at_50": 0.69401, - "mrr_at_100": 0.69409, - "mrr_at_1000": 0.69409 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.47545, - "ndcg_at_3": 0.44348, - "ndcg_at_5": 0.45023, - "ndcg_at_10": 0.47727, - "ndcg_at_50": 0.49955, - "ndcg_at_100": 0.5008, - "ndcg_at_1000": 0.5008, - "map_at_1": 0.18273, - "map_at_3": 0.30085, - "map_at_5": 0.34614, - "map_at_10": 0.38074, - "map_at_50": 0.39076, - "map_at_100": 0.39094, - "map_at_1000": 0.39094, - "recall_at_1": 0.18273, - "recall_at_3": 0.36007, - "recall_at_5": 0.44558, - "recall_at_10": 0.53335, - "recall_at_50": 0.6034, - "recall_at_100": 0.60959, - "recall_at_1000": 0.60959, - "precision_at_1": 0.47545, - "precision_at_3": 0.35163, - "precision_at_5": 0.27926, - "precision_at_10": 0.1747, - "precision_at_50": 0.03913, - "precision_at_100": 0.0197, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.47545, - "mrr_at_3": 0.56384, - "mrr_at_5": 0.57551, - "mrr_at_10": 0.58066, - "mrr_at_50": 0.58273, - "mrr_at_100": 0.58281, - "mrr_at_1000": 0.58281 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.4997, - "ndcg_at_3": 0.47511, - "ndcg_at_5": 0.47841, - "ndcg_at_10": 0.50278, - "ndcg_at_50": 0.54977, - "ndcg_at_100": 0.55482, - "ndcg_at_1000": 0.55482, - "map_at_1": 0.18908, - "map_at_3": 0.30659, - "map_at_5": 0.35612, - "map_at_10": 0.40116, - "map_at_50": 0.42511, - "map_at_100": 0.42607, - "map_at_1000": 0.42607, - "recall_at_1": 0.18908, - "recall_at_3": 0.35875, - "recall_at_5": 0.45099, - "recall_at_10": 0.5536, - "recall_at_50": 0.68149, - "recall_at_100": 0.70294, - "recall_at_1000": 0.70294, - "precision_at_1": 0.4997, - "precision_at_3": 0.37988, - "precision_at_5": 0.31147, - "precision_at_10": 0.20636, - "precision_at_50": 0.05314, - "precision_at_100": 0.02734, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.4997, - "mrr_at_3": 0.5922, - "mrr_at_5": 0.60586, - "mrr_at_10": 0.61209, - "mrr_at_50": 0.61471, - "mrr_at_100": 0.61487, - "mrr_at_1000": 0.61487 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.49033, - "ndcg_at_3": 0.46467, - "ndcg_at_5": 0.46634, - "ndcg_at_10": 0.48501, - "ndcg_at_50": 0.5067, - "ndcg_at_100": 0.50794, - "ndcg_at_1000": 0.50794, - "map_at_1": 0.22701, - "map_at_3": 0.3257, - "map_at_5": 0.36514, - "map_at_10": 0.39734, - "map_at_50": 0.40823, - "map_at_100": 0.40844, - "map_at_1000": 0.40844, - "recall_at_1": 0.22701, - "recall_at_3": 0.37966, - "recall_at_5": 0.45359, - "recall_at_10": 0.53202, - "recall_at_50": 0.59314, - "recall_at_100": 0.59865, - "recall_at_1000": 0.59865, - "precision_at_1": 0.49033, - "precision_at_3": 0.33353, - "precision_at_5": 0.2621, - "precision_at_10": 0.1662, - "precision_at_50": 0.03821, - "precision_at_100": 0.01927, - "precision_at_1000": 0.00193, - "mrr_at_1": 0.49033, - "mrr_at_3": 0.57499, - "mrr_at_5": 0.58477, - "mrr_at_10": 0.58967, - "mrr_at_50": 0.59167, - "mrr_at_100": 0.59169, - "mrr_at_1000": 0.59169 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.66763, - "ndcg_at_3": 0.61946, - "ndcg_at_5": 0.62306, - "ndcg_at_10": 0.68388, - "ndcg_at_50": 0.71974, - "ndcg_at_100": 0.72386, - "ndcg_at_1000": 0.72386, - "map_at_1": 0.21153, - "map_at_3": 0.40436, - "map_at_5": 0.48825, - "map_at_10": 0.57595, - "map_at_50": 0.59592, - "map_at_100": 0.59679, - "map_at_1000": 0.59679, - "recall_at_1": 0.21153, - "recall_at_3": 0.45342, - "recall_at_5": 0.58301, - "recall_at_10": 0.76324, - "recall_at_50": 0.86756, - "recall_at_100": 0.88521, - "recall_at_1000": 0.88521, - "precision_at_1": 0.66763, - "precision_at_3": 0.53468, - "precision_at_5": 0.44162, - "precision_at_10": 0.30318, - "precision_at_50": 0.06803, - "precision_at_100": 0.0346, - "precision_at_1000": 0.00346, - "mrr_at_1": 0.66763, - "mrr_at_3": 0.74711, - "mrr_at_5": 0.75621, - "mrr_at_10": 0.76118, - "mrr_at_50": 0.76369, - "mrr_at_100": 0.76378, - "mrr_at_1000": 0.76378 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.67568, - "ndcg_at_3": 0.60249, - "ndcg_at_5": 0.60391, - "ndcg_at_10": 0.66317, - "ndcg_at_50": 0.71232, - "ndcg_at_100": 0.7154, - "ndcg_at_1000": 0.7154, - "map_at_1": 0.19298, - "map_at_3": 0.35851, - "map_at_5": 0.45036, - "map_at_10": 0.55652, - "map_at_50": 0.58502, - "map_at_100": 0.58553, - "map_at_1000": 0.58553, - "recall_at_1": 0.19298, - "recall_at_3": 0.39297, - "recall_at_5": 0.53095, - "recall_at_10": 0.72548, - "recall_at_50": 0.86334, - "recall_at_100": 0.87848, - "recall_at_1000": 0.87848, - "precision_at_1": 0.67568, - "precision_at_3": 0.52653, - "precision_at_5": 0.45706, - "precision_at_10": 0.33093, - "precision_at_50": 0.07706, - "precision_at_100": 0.03889, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.67568, - "mrr_at_3": 0.73874, - "mrr_at_5": 0.7494, - "mrr_at_10": 0.75533, - "mrr_at_50": 0.75825, - "mrr_at_100": 0.75837, - "mrr_at_1000": 0.75837 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.67751, - "ndcg_at_3": 0.63942, - "ndcg_at_5": 0.6281, - "ndcg_at_10": 0.67019, - "ndcg_at_50": 0.70971, - "ndcg_at_100": 0.71259, - "ndcg_at_1000": 0.71259, - "map_at_1": 0.1977, - "map_at_3": 0.38881, - "map_at_5": 0.47869, - "map_at_10": 0.57223, - "map_at_50": 0.59764, - "map_at_100": 0.59811, - "map_at_1000": 0.59811, - "recall_at_1": 0.1977, - "recall_at_3": 0.43208, - "recall_at_5": 0.55636, - "recall_at_10": 0.72103, - "recall_at_50": 0.82735, - "recall_at_100": 0.84086, - "recall_at_1000": 0.84086, - "precision_at_1": 0.67751, - "precision_at_3": 0.56114, - "precision_at_5": 0.46568, - "precision_at_10": 0.32426, - "precision_at_50": 0.07438, - "precision_at_100": 0.03754, - "precision_at_1000": 0.00375, - "mrr_at_1": 0.67751, - "mrr_at_3": 0.74458, - "mrr_at_5": 0.74931, - "mrr_at_10": 0.75656, - "mrr_at_50": 0.75826, - "mrr_at_100": 0.75839, - "mrr_at_1000": 0.75839 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.73451, - "ndcg_at_3": 0.67613, - "ndcg_at_5": 0.68437, - "ndcg_at_10": 0.74335, - "ndcg_at_50": 0.77925, - "ndcg_at_100": 0.78123, - "ndcg_at_1000": 0.78123, - "map_at_1": 0.2454, - "map_at_3": 0.45893, - "map_at_5": 0.55174, - "map_at_10": 0.63945, - "map_at_50": 0.66309, - "map_at_100": 0.6635, - "map_at_1000": 0.6635, - "recall_at_1": 0.2454, - "recall_at_3": 0.50649, - "recall_at_5": 0.6441, - "recall_at_10": 0.81696, - "recall_at_50": 0.91204, - "recall_at_100": 0.92045, - "recall_at_1000": 0.92045, - "precision_at_1": 0.73451, - "precision_at_3": 0.58014, - "precision_at_5": 0.47375, - "precision_at_10": 0.3174, - "precision_at_50": 0.07168, - "precision_at_100": 0.03614, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.73451, - "mrr_at_3": 0.80973, - "mrr_at_5": 0.81608, - "mrr_at_10": 0.81907, - "mrr_at_50": 0.82059, - "mrr_at_100": 0.82059, - "mrr_at_1000": 0.82059 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.80978, - "ndcg_at_3": 0.7374, - "ndcg_at_5": 0.73829, - "ndcg_at_10": 0.78787, - "ndcg_at_50": 0.8255, - "ndcg_at_100": 0.82803, - "ndcg_at_1000": 0.82803, - "map_at_1": 0.29015, - "map_at_3": 0.49929, - "map_at_5": 0.60152, - "map_at_10": 0.69198, - "map_at_50": 0.71637, - "map_at_100": 0.71681, - "map_at_1000": 0.71681, - "recall_at_1": 0.29015, - "recall_at_3": 0.53804, - "recall_at_5": 0.68302, - "recall_at_10": 0.83609, - "recall_at_50": 0.93722, - "recall_at_100": 0.94917, - "recall_at_1000": 0.94917, - "precision_at_1": 0.80978, - "precision_at_3": 0.6096, - "precision_at_5": 0.50326, - "precision_at_10": 0.3375, - "precision_at_50": 0.07614, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.80978, - "mrr_at_3": 0.86775, - "mrr_at_5": 0.87142, - "mrr_at_10": 0.87282, - "mrr_at_50": 0.87377, - "mrr_at_100": 0.87384, - "mrr_at_1000": 0.87384 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.6369, - "ndcg_at_3": 0.5899, - "ndcg_at_5": 0.5985, - "ndcg_at_10": 0.6419, - "ndcg_at_50": 0.68135, - "ndcg_at_100": 0.68559, - "ndcg_at_1000": 0.68559, - "map_at_1": 0.26072, - "map_at_3": 0.43969, - "map_at_5": 0.50321, - "map_at_10": 0.55923, - "map_at_50": 0.57648, - "map_at_100": 0.57724, - "map_at_1000": 0.57724, - "recall_at_1": 0.26072, - "recall_at_3": 0.48538, - "recall_at_5": 0.58507, - "recall_at_10": 0.69914, - "recall_at_50": 0.83153, - "recall_at_100": 0.85085, - "recall_at_1000": 0.85085, - "precision_at_1": 0.6369, - "precision_at_3": 0.45734, - "precision_at_5": 0.36071, - "precision_at_10": 0.23333, - "precision_at_50": 0.05387, - "precision_at_100": 0.0275, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.6369, - "mrr_at_3": 0.70089, - "mrr_at_5": 0.7067, - "mrr_at_10": 0.71044, - "mrr_at_50": 0.71472, - "mrr_at_100": 0.71483, - "mrr_at_1000": 0.71483 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.67606, - "ndcg_at_3": 0.61881, - "ndcg_at_5": 0.65121, - "ndcg_at_10": 0.70496, - "ndcg_at_50": 0.73349, - "ndcg_at_100": 0.73541, - "ndcg_at_1000": 0.73541, - "map_at_1": 0.32461, - "map_at_3": 0.48691, - "map_at_5": 0.5513, - "map_at_10": 0.60191, - "map_at_50": 0.61683, - "map_at_100": 0.61703, - "map_at_1000": 0.61703, - "recall_at_1": 0.32461, - "recall_at_3": 0.55278, - "recall_at_5": 0.67655, - "recall_at_10": 0.79971, - "recall_at_50": 0.88513, - "recall_at_100": 0.89625, - "recall_at_1000": 0.89625, - "precision_at_1": 0.67606, - "precision_at_3": 0.44413, - "precision_at_5": 0.34817, - "precision_at_10": 0.22, - "precision_at_50": 0.04946, - "precision_at_100": 0.0249, - "precision_at_1000": 0.00249, - "mrr_at_1": 0.67606, - "mrr_at_3": 0.76009, - "mrr_at_5": 0.77277, - "mrr_at_10": 0.77498, - "mrr_at_50": 0.77641, - "mrr_at_100": 0.7765, - "mrr_at_1000": 0.7765 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.66106, - "ndcg_at_3": 0.62095, - "ndcg_at_5": 0.65537, - "ndcg_at_10": 0.71365, - "ndcg_at_50": 0.73363, - "ndcg_at_100": 0.73548, - "ndcg_at_1000": 0.73548, - "map_at_1": 0.32728, - "map_at_3": 0.49533, - "map_at_5": 0.55978, - "map_at_10": 0.61192, - "map_at_50": 0.62314, - "map_at_100": 0.62341, - "map_at_1000": 0.62341, - "recall_at_1": 0.32728, - "recall_at_3": 0.5619, - "recall_at_5": 0.68296, - "recall_at_10": 0.81711, - "recall_at_50": 0.87503, - "recall_at_100": 0.8843, - "recall_at_1000": 0.8843, - "precision_at_1": 0.66106, - "precision_at_3": 0.44538, - "precision_at_5": 0.3507, - "precision_at_10": 0.22241, - "precision_at_50": 0.04829, - "precision_at_100": 0.02434, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.66106, - "mrr_at_3": 0.75303, - "mrr_at_5": 0.76242, - "mrr_at_10": 0.76662, - "mrr_at_50": 0.76755, - "mrr_at_100": 0.7676, - "mrr_at_1000": 0.7676 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.71774, - "ndcg_at_3": 0.6627, - "ndcg_at_5": 0.67049, - "ndcg_at_10": 0.71929, - "ndcg_at_50": 0.74164, - "ndcg_at_100": 0.74533, - "ndcg_at_1000": 0.74533, - "map_at_1": 0.36965, - "map_at_3": 0.53618, - "map_at_5": 0.58544, - "map_at_10": 0.63057, - "map_at_50": 0.64044, - "map_at_100": 0.64098, - "map_at_1000": 0.64098, - "recall_at_1": 0.36965, - "recall_at_3": 0.58394, - "recall_at_5": 0.6723, - "recall_at_10": 0.78478, - "recall_at_50": 0.85517, - "recall_at_100": 0.87432, - "recall_at_1000": 0.87432, - "precision_at_1": 0.71774, - "precision_at_3": 0.4543, - "precision_at_5": 0.33656, - "precision_at_10": 0.20941, - "precision_at_50": 0.04602, - "precision_at_100": 0.02339, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.71505, - "mrr_at_3": 0.78271, - "mrr_at_5": 0.79252, - "mrr_at_10": 0.79552, - "mrr_at_50": 0.7972, - "mrr_at_100": 0.79734, - "mrr_at_1000": 0.79734 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.61475, - "ndcg_at_3": 0.57051, - "ndcg_at_5": 0.57798, - "ndcg_at_10": 0.63495, - "ndcg_at_50": 0.66548, - "ndcg_at_100": 0.66906, - "ndcg_at_1000": 0.66906, - "map_at_1": 0.24998, - "map_at_3": 0.41334, - "map_at_5": 0.47316, - "map_at_10": 0.5321, - "map_at_50": 0.54691, - "map_at_100": 0.54743, - "map_at_1000": 0.54743, - "recall_at_1": 0.24998, - "recall_at_3": 0.47204, - "recall_at_5": 0.57227, - "recall_at_10": 0.71592, - "recall_at_50": 0.81037, - "recall_at_100": 0.82774, - "recall_at_1000": 0.82774, - "precision_at_1": 0.61475, - "precision_at_3": 0.44991, - "precision_at_5": 0.34973, - "precision_at_10": 0.23115, - "precision_at_50": 0.05235, - "precision_at_100": 0.02658, - "precision_at_1000": 0.00266, - "mrr_at_1": 0.61475, - "mrr_at_3": 0.70355, - "mrr_at_5": 0.71025, - "mrr_at_10": 0.71691, - "mrr_at_50": 0.71872, - "mrr_at_100": 0.71888, - "mrr_at_1000": 0.71888 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.5973, - "ndcg_at_3": 0.59374, - "ndcg_at_5": 0.63733, - "ndcg_at_10": 0.70152, - "ndcg_at_50": 0.72697, - "ndcg_at_100": 0.7308, - "ndcg_at_1000": 0.7308, - "map_at_1": 0.3324, - "map_at_3": 0.49403, - "map_at_5": 0.55338, - "map_at_10": 0.60452, - "map_at_50": 0.61636, - "map_at_100": 0.61695, - "map_at_1000": 0.61695, - "recall_at_1": 0.3324, - "recall_at_3": 0.56772, - "recall_at_5": 0.69672, - "recall_at_10": 0.84542, - "recall_at_50": 0.93081, - "recall_at_100": 0.94937, - "recall_at_1000": 0.94937, - "precision_at_1": 0.5973, - "precision_at_3": 0.4009, - "precision_at_5": 0.31297, - "precision_at_10": 0.2027, - "precision_at_50": 0.0447, - "precision_at_100": 0.02276, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.5973, - "mrr_at_3": 0.68964, - "mrr_at_5": 0.70559, - "mrr_at_10": 0.71264, - "mrr_at_50": 0.71442, - "mrr_at_100": 0.7146, - "mrr_at_1000": 0.7146 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.44785, - "ndcg_at_3": 0.482, - "ndcg_at_5": 0.52773, - "ndcg_at_10": 0.59226, - "ndcg_at_50": 0.63212, - "ndcg_at_100": 0.63519, - "ndcg_at_1000": 0.63519, - "map_at_1": 0.28321, - "map_at_3": 0.40872, - "map_at_5": 0.45153, - "map_at_10": 0.4941, - "map_at_50": 0.5105, - "map_at_100": 0.51091, - "map_at_1000": 0.51091, - "recall_at_1": 0.28321, - "recall_at_3": 0.49515, - "recall_at_5": 0.60998, - "recall_at_10": 0.77001, - "recall_at_50": 0.90777, - "recall_at_100": 0.92413, - "recall_at_1000": 0.92413, - "precision_at_1": 0.44785, - "precision_at_3": 0.2955, - "precision_at_5": 0.23067, - "precision_at_10": 0.15307, - "precision_at_50": 0.03613, - "precision_at_100": 0.01834, - "precision_at_1000": 0.00183, - "mrr_at_1": 0.44785, - "mrr_at_3": 0.54908, - "mrr_at_5": 0.57239, - "mrr_at_10": 0.58443, - "mrr_at_50": 0.58838, - "mrr_at_100": 0.58846, - "mrr_at_1000": 0.58846 - }, - "gpt3": { - "ndcg_at_1": 0.41543, - "ndcg_at_3": 0.47475, - "ndcg_at_5": 0.51808, - "ndcg_at_10": 0.56053, - "ndcg_at_50": 0.60583, - "ndcg_at_100": 0.61204, - "ndcg_at_1000": 0.61204, - "map_at_1": 0.32962, - "map_at_3": 0.42854, - "map_at_5": 0.46027, - "map_at_10": 0.48322, - "map_at_50": 0.49606, - "map_at_100": 0.49675, - "map_at_1000": 0.49675, - "recall_at_1": 0.32962, - "recall_at_3": 0.51855, - "recall_at_5": 0.61177, - "recall_at_10": 0.72354, - "recall_at_50": 0.90232, - "recall_at_100": 0.93793, - "recall_at_1000": 0.93793, - "precision_at_1": 0.41543, - "precision_at_3": 0.23739, - "precision_at_5": 0.17567, - "precision_at_10": 0.10772, - "precision_at_50": 0.02677, - "precision_at_100": 0.01386, - "precision_at_1000": 0.00139, - "mrr_at_1": 0.41543, - "mrr_at_3": 0.51335, - "mrr_at_5": 0.53027, - "mrr_at_10": 0.54145, - "mrr_at_50": 0.54934, - "mrr_at_100": 0.54972, - "mrr_at_1000": 0.54972 - }, - "llm-survey": { - "ndcg_at_1": 0.53782, - "ndcg_at_3": 0.51502, - "ndcg_at_5": 0.5375, - "ndcg_at_10": 0.58317, - "ndcg_at_50": 0.62292, - "ndcg_at_100": 0.62869, - "ndcg_at_1000": 0.62869, - "map_at_1": 0.246, - "map_at_3": 0.40323, - "map_at_5": 0.45066, - "map_at_10": 0.49303, - "map_at_50": 0.50972, - "map_at_100": 0.51051, - "map_at_1000": 0.51051, - "recall_at_1": 0.246, - "recall_at_3": 0.46542, - "recall_at_5": 0.55963, - "recall_at_10": 0.67228, - "recall_at_50": 0.80689, - "recall_at_100": 0.83714, - "recall_at_1000": 0.83714, - "precision_at_1": 0.53782, - "precision_at_3": 0.38375, - "precision_at_5": 0.29412, - "precision_at_10": 0.18739, - "precision_at_50": 0.04409, - "precision_at_100": 0.02261, - "precision_at_1000": 0.00226, - "mrr_at_1": 0.53782, - "mrr_at_3": 0.61625, - "mrr_at_5": 0.63011, - "mrr_at_10": 0.63581, - "mrr_at_50": 0.63993, - "mrr_at_100": 0.64023, - "mrr_at_1000": 0.64023 - }, - "gemini": { - "ndcg_at_1": 0.46586, - "ndcg_at_3": 0.57645, - "ndcg_at_5": 0.60497, - "ndcg_at_10": 0.63277, - "ndcg_at_50": 0.65919, - "ndcg_at_100": 0.66312, - "ndcg_at_1000": 0.66312, - "map_at_1": 0.46586, - "map_at_3": 0.54819, - "map_at_5": 0.56426, - "map_at_10": 0.57528, - "map_at_50": 0.5813, - "map_at_100": 0.58165, - "map_at_1000": 0.58165, - "recall_at_1": 0.46586, - "recall_at_3": 0.65863, - "recall_at_5": 0.72691, - "recall_at_10": 0.81526, - "recall_at_50": 0.93173, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.46586, - "precision_at_3": 0.21954, - "precision_at_5": 0.14538, - "precision_at_10": 0.08153, - "precision_at_50": 0.01863, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.46586, - "mrr_at_3": 0.54819, - "mrr_at_5": 0.56426, - "mrr_at_10": 0.57524, - "mrr_at_50": 0.58125, - "mrr_at_100": 0.5816, - "mrr_at_1000": 0.5816 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.79956, - "ndcg_at_3": 0.7254, - "ndcg_at_5": 0.73179, - "ndcg_at_10": 0.77559, - "ndcg_at_50": 0.80392, - "ndcg_at_100": 0.80476, - "ndcg_at_1000": 0.80476, - "map_at_1": 0.33306, - "map_at_3": 0.53833, - "map_at_5": 0.62209, - "map_at_10": 0.6899, - "map_at_50": 0.70808, - "map_at_100": 0.70823, - "map_at_1000": 0.70823, - "recall_at_1": 0.33306, - "recall_at_3": 0.57662, - "recall_at_5": 0.70074, - "recall_at_10": 0.83194, - "recall_at_50": 0.91035, - "recall_at_100": 0.91442, - "recall_at_1000": 0.91442, - "precision_at_1": 0.79956, - "precision_at_3": 0.55984, - "precision_at_5": 0.44185, - "precision_at_10": 0.28144, - "precision_at_50": 0.06251, - "precision_at_100": 0.03135, - "precision_at_1000": 0.00314, - "mrr_at_1": 0.79956, - "mrr_at_3": 0.8438, - "mrr_at_5": 0.84828, - "mrr_at_10": 0.85134, - "mrr_at_50": 0.85246, - "mrr_at_100": 0.85249, - "mrr_at_1000": 0.85249 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.33315, - "ndcg_at_3": 0.30064, - "ndcg_at_5": 0.29968, - "ndcg_at_10": 0.31221, - "ndcg_at_50": 0.33322, - "ndcg_at_100": 0.33464, - "ndcg_at_1000": 0.33464, - "map_at_1": 0.13271, - "map_at_3": 0.20285, - "map_at_5": 0.23202, - "map_at_10": 0.25822, - "map_at_50": 0.26981, - "map_at_100": 0.27001, - "map_at_1000": 0.27001, - "recall_at_1": 0.13271, - "recall_at_3": 0.22646, - "recall_at_5": 0.27424, - "recall_at_10": 0.32916, - "recall_at_50": 0.38537, - "recall_at_100": 0.39219, - "recall_at_1000": 0.39219, - "precision_at_1": 0.33315, - "precision_at_3": 0.23228, - "precision_at_5": 0.18545, - "precision_at_10": 0.12154, - "precision_at_50": 0.02954, - "precision_at_100": 0.01494, - "precision_at_1000": 0.00149, - "mrr_at_1": 0.33315, - "mrr_at_3": 0.37636, - "mrr_at_5": 0.38217, - "mrr_at_10": 0.38598, - "mrr_at_50": 0.38786, - "mrr_at_100": 0.38796, - "mrr_at_1000": 0.38796 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.58456, - "ndcg_at_3": 0.51853, - "ndcg_at_5": 0.49781, - "ndcg_at_10": 0.51213, - "ndcg_at_50": 0.53894, - "ndcg_at_100": 0.53958, - "ndcg_at_1000": 0.53958, - "map_at_1": 0.17642, - "map_at_3": 0.3048, - "map_at_5": 0.36033, - "map_at_10": 0.41246, - "map_at_50": 0.4294, - "map_at_100": 0.42954, - "map_at_1000": 0.42954, - "recall_at_1": 0.17642, - "recall_at_3": 0.33746, - "recall_at_5": 0.42309, - "recall_at_10": 0.52111, - "recall_at_50": 0.58688, - "recall_at_100": 0.58917, - "recall_at_1000": 0.58917, - "precision_at_1": 0.58456, - "precision_at_3": 0.44667, - "precision_at_5": 0.35887, - "precision_at_10": 0.23542, - "precision_at_50": 0.05423, - "precision_at_100": 0.02722, - "precision_at_1000": 0.00272, - "mrr_at_1": 0.58456, - "mrr_at_3": 0.64938, - "mrr_at_5": 0.65854, - "mrr_at_10": 0.66308, - "mrr_at_50": 0.66465, - "mrr_at_100": 0.66467, - "mrr_at_1000": 0.66467 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.61338, - "ndcg_at_3": 0.58321, - "ndcg_at_5": 0.57858, - "ndcg_at_10": 0.59343, - "ndcg_at_50": 0.62132, - "ndcg_at_100": 0.62278, - "ndcg_at_1000": 0.62278, - "map_at_1": 0.27038, - "map_at_3": 0.41412, - "map_at_5": 0.46903, - "map_at_10": 0.51781, - "map_at_50": 0.53684, - "map_at_100": 0.53712, - "map_at_1000": 0.53712, - "recall_at_1": 0.27038, - "recall_at_3": 0.45172, - "recall_at_5": 0.53156, - "recall_at_10": 0.61974, - "recall_at_50": 0.68758, - "recall_at_100": 0.69414, - "recall_at_1000": 0.69414, - "precision_at_1": 0.61338, - "precision_at_3": 0.43722, - "precision_at_5": 0.3461, - "precision_at_10": 0.22509, - "precision_at_50": 0.0529, - "precision_at_100": 0.02666, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.61338, - "mrr_at_3": 0.6741, - "mrr_at_5": 0.68138, - "mrr_at_10": 0.68509, - "mrr_at_50": 0.6862, - "mrr_at_100": 0.68626, - "mrr_at_1000": 0.68626 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.73334, - "ndcg_at_3": 0.68094, - "ndcg_at_5": 0.66245, - "ndcg_at_10": 0.67453, - "ndcg_at_50": 0.71956, - "ndcg_at_100": 0.72088, - "ndcg_at_1000": 0.72088, - "map_at_1": 0.20325, - "map_at_3": 0.38711, - "map_at_5": 0.48266, - "map_at_10": 0.57513, - "map_at_50": 0.60964, - "map_at_100": 0.61001, - "map_at_1000": 0.61001, - "recall_at_1": 0.20325, - "recall_at_3": 0.41817, - "recall_at_5": 0.54384, - "recall_at_10": 0.69005, - "recall_at_50": 0.79433, - "recall_at_100": 0.79896, - "recall_at_1000": 0.79896, - "precision_at_1": 0.73334, - "precision_at_3": 0.60009, - "precision_at_5": 0.50986, - "precision_at_10": 0.35115, - "precision_at_50": 0.08342, - "precision_at_100": 0.04196, - "precision_at_1000": 0.0042, - "mrr_at_1": 0.73334, - "mrr_at_3": 0.789, - "mrr_at_5": 0.79516, - "mrr_at_10": 0.79802, - "mrr_at_50": 0.79907, - "mrr_at_100": 0.79908, - "mrr_at_1000": 0.79908 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.6334, - "ndcg_at_3": 0.56304, - "ndcg_at_5": 0.52376, - "ndcg_at_10": 0.52946, - "ndcg_at_50": 0.57784, - "ndcg_at_100": 0.57999, - "ndcg_at_1000": 0.57999, - "map_at_1": 0.1327, - "map_at_3": 0.27107, - "map_at_5": 0.34035, - "map_at_10": 0.40724, - "map_at_50": 0.43762, - "map_at_100": 0.4381, - "map_at_1000": 0.4381, - "recall_at_1": 0.1327, - "recall_at_3": 0.30284, - "recall_at_5": 0.40344, - "recall_at_10": 0.5258, - "recall_at_50": 0.64065, - "recall_at_100": 0.64853, - "recall_at_1000": 0.64853, - "precision_at_1": 0.6334, - "precision_at_3": 0.5217, - "precision_at_5": 0.43522, - "precision_at_10": 0.29589, - "precision_at_50": 0.07297, - "precision_at_100": 0.03687, - "precision_at_1000": 0.00369, - "mrr_at_1": 0.63287, - "mrr_at_3": 0.70864, - "mrr_at_5": 0.71732, - "mrr_at_10": 0.72193, - "mrr_at_50": 0.72358, - "mrr_at_100": 0.72362, - "mrr_at_1000": 0.72362 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.60457, - "ndcg_at_3": 0.56069, - "ndcg_at_5": 0.56946, - "ndcg_at_10": 0.59934, - "ndcg_at_50": 0.62696, - "ndcg_at_100": 0.62784, - "ndcg_at_1000": 0.62784, - "map_at_1": 0.26663, - "map_at_3": 0.42354, - "map_at_5": 0.47277, - "map_at_10": 0.50794, - "map_at_50": 0.52232, - "map_at_100": 0.52249, - "map_at_1000": 0.52249, - "recall_at_1": 0.26663, - "recall_at_3": 0.4765, - "recall_at_5": 0.56736, - "recall_at_10": 0.65544, - "recall_at_50": 0.7324, - "recall_at_100": 0.73622, - "recall_at_1000": 0.73622, - "precision_at_1": 0.60457, - "precision_at_3": 0.42121, - "precision_at_5": 0.31787, - "precision_at_10": 0.19397, - "precision_at_50": 0.04462, - "precision_at_100": 0.02243, - "precision_at_1000": 0.00224, - "mrr_at_1": 0.60457, - "mrr_at_3": 0.68151, - "mrr_at_5": 0.69129, - "mrr_at_10": 0.69531, - "mrr_at_50": 0.69695, - "mrr_at_100": 0.69697, - "mrr_at_1000": 0.69697 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.49695, - "ndcg_at_3": 0.42304, - "ndcg_at_5": 0.399, - "ndcg_at_10": 0.41336, - "ndcg_at_50": 0.4452, - "ndcg_at_100": 0.44655, - "ndcg_at_1000": 0.44655, - "map_at_1": 0.12953, - "map_at_3": 0.22805, - "map_at_5": 0.27118, - "map_at_10": 0.31165, - "map_at_50": 0.32959, - "map_at_100": 0.32983, - "map_at_1000": 0.32983, - "recall_at_1": 0.12953, - "recall_at_3": 0.25928, - "recall_at_5": 0.32966, - "recall_at_10": 0.41534, - "recall_at_50": 0.49526, - "recall_at_100": 0.50099, - "recall_at_1000": 0.50099, - "precision_at_1": 0.49695, - "precision_at_3": 0.3723, - "precision_at_5": 0.29972, - "precision_at_10": 0.19873, - "precision_at_50": 0.04802, - "precision_at_100": 0.02421, - "precision_at_1000": 0.00242, - "mrr_at_1": 0.49751, - "mrr_at_3": 0.56944, - "mrr_at_5": 0.57933, - "mrr_at_10": 0.58486, - "mrr_at_50": 0.58697, - "mrr_at_100": 0.58701, - "mrr_at_1000": 0.58701 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5388, - "ndcg_at_3": 0.5495, - "ndcg_at_5": 0.56469, - "ndcg_at_10": 0.58484, - "ndcg_at_50": 0.6012, - "ndcg_at_100": 0.6017, - "ndcg_at_1000": 0.6017, - "map_at_1": 0.33593, - "map_at_3": 0.46984, - "map_at_5": 0.50809, - "map_at_10": 0.53417, - "map_at_50": 0.54328, - "map_at_100": 0.54334, - "map_at_1000": 0.54334, - "recall_at_1": 0.33593, - "recall_at_3": 0.51718, - "recall_at_5": 0.58724, - "recall_at_10": 0.64787, - "recall_at_50": 0.69801, - "recall_at_100": 0.70071, - "recall_at_1000": 0.70071, - "precision_at_1": 0.5388, - "precision_at_3": 0.33838, - "precision_at_5": 0.2511, - "precision_at_10": 0.15047, - "precision_at_50": 0.03343, - "precision_at_100": 0.01676, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.5388, - "mrr_at_3": 0.59443, - "mrr_at_5": 0.60143, - "mrr_at_10": 0.6043, - "mrr_at_50": 0.60558, - "mrr_at_100": 0.60562, - "mrr_at_1000": 0.60562 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.77904, - "ndcg_at_3": 0.66878, - "ndcg_at_5": 0.67432, - "ndcg_at_10": 0.69518, - "ndcg_at_50": 0.70744, - "ndcg_at_100": 0.70806, - "ndcg_at_1000": 0.70806, - "map_at_1": 0.40341, - "map_at_3": 0.5379, - "map_at_5": 0.58342, - "map_at_10": 0.6115, - "map_at_50": 0.61898, - "map_at_100": 0.61908, - "map_at_1000": 0.61908, - "recall_at_1": 0.40341, - "recall_at_3": 0.57422, - "recall_at_5": 0.65431, - "recall_at_10": 0.71548, - "recall_at_50": 0.74758, - "recall_at_100": 0.7504, - "recall_at_1000": 0.7504, - "precision_at_1": 0.77904, - "precision_at_3": 0.44312, - "precision_at_5": 0.32376, - "precision_at_10": 0.18851, - "precision_at_50": 0.04041, - "precision_at_100": 0.02027, - "precision_at_1000": 0.00203, - "mrr_at_1": 0.77904, - "mrr_at_3": 0.82063, - "mrr_at_5": 0.82593, - "mrr_at_10": 0.82711, - "mrr_at_50": 0.82731, - "mrr_at_100": 0.82734, - "mrr_at_1000": 0.82734 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.72901, - "ndcg_at_3": 0.66349, - "ndcg_at_5": 0.66735, - "ndcg_at_10": 0.68112, - "ndcg_at_50": 0.69274, - "ndcg_at_100": 0.69326, - "ndcg_at_1000": 0.69326, - "map_at_1": 0.42174, - "map_at_3": 0.56325, - "map_at_5": 0.59723, - "map_at_10": 0.61647, - "map_at_50": 0.62235, - "map_at_100": 0.62244, - "map_at_1000": 0.62244, - "recall_at_1": 0.42174, - "recall_at_3": 0.59819, - "recall_at_5": 0.65607, - "recall_at_10": 0.69984, - "recall_at_50": 0.73379, - "recall_at_100": 0.73595, - "recall_at_1000": 0.73595, - "precision_at_1": 0.72901, - "precision_at_3": 0.41575, - "precision_at_5": 0.29276, - "precision_at_10": 0.1645, - "precision_at_50": 0.03528, - "precision_at_100": 0.01771, - "precision_at_1000": 0.00177, - "mrr_at_1": 0.72901, - "mrr_at_3": 0.7707, - "mrr_at_5": 0.77545, - "mrr_at_10": 0.77727, - "mrr_at_50": 0.7782, - "mrr_at_100": 0.77822, - "mrr_at_1000": 0.77822 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.55344, - "ndcg_at_3": 0.48878, - "ndcg_at_5": 0.488, - "ndcg_at_10": 0.51167, - "ndcg_at_50": 0.53357, - "ndcg_at_100": 0.53415, - "ndcg_at_1000": 0.53415, - "map_at_1": 0.233, - "map_at_3": 0.3477, - "map_at_5": 0.38836, - "map_at_10": 0.41918, - "map_at_50": 0.43021, - "map_at_100": 0.4303, - "map_at_1000": 0.4303, - "recall_at_1": 0.233, - "recall_at_3": 0.393, - "recall_at_5": 0.46782, - "recall_at_10": 0.54524, - "recall_at_50": 0.60683, - "recall_at_100": 0.60959, - "recall_at_1000": 0.60959, - "precision_at_1": 0.55344, - "precision_at_3": 0.36665, - "precision_at_5": 0.27926, - "precision_at_10": 0.17273, - "precision_at_50": 0.03927, - "precision_at_100": 0.0197, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.55344, - "mrr_at_3": 0.62305, - "mrr_at_5": 0.63172, - "mrr_at_10": 0.63585, - "mrr_at_50": 0.63748, - "mrr_at_100": 0.63752, - "mrr_at_1000": 0.63752 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.65716, - "ndcg_at_3": 0.59698, - "ndcg_at_5": 0.58987, - "ndcg_at_10": 0.60982, - "ndcg_at_50": 0.63552, - "ndcg_at_100": 0.63636, - "ndcg_at_1000": 0.63636, - "map_at_1": 0.25668, - "map_at_3": 0.4072, - "map_at_5": 0.46679, - "map_at_10": 0.51632, - "map_at_50": 0.53332, - "map_at_100": 0.53351, - "map_at_1000": 0.53351, - "recall_at_1": 0.25668, - "recall_at_3": 0.44794, - "recall_at_5": 0.5399, - "recall_at_10": 0.636, - "recall_at_50": 0.69963, - "recall_at_100": 0.70294, - "recall_at_1000": 0.70294, - "precision_at_1": 0.65716, - "precision_at_3": 0.4694, - "precision_at_5": 0.37089, - "precision_at_10": 0.23803, - "precision_at_50": 0.05439, - "precision_at_100": 0.02734, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.65657, - "mrr_at_3": 0.71905, - "mrr_at_5": 0.72696, - "mrr_at_10": 0.73076, - "mrr_at_50": 0.73149, - "mrr_at_100": 0.73151, - "mrr_at_1000": 0.73151 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.59754, - "ndcg_at_3": 0.54054, - "ndcg_at_5": 0.5336, - "ndcg_at_10": 0.54415, - "ndcg_at_50": 0.55909, - "ndcg_at_100": 0.55948, - "ndcg_at_1000": 0.55948, - "map_at_1": 0.29086, - "map_at_3": 0.39804, - "map_at_5": 0.43658, - "map_at_10": 0.46527, - "map_at_50": 0.47474, - "map_at_100": 0.47481, - "map_at_1000": 0.47481, - "recall_at_1": 0.29086, - "recall_at_3": 0.4358, - "recall_at_5": 0.50029, - "recall_at_10": 0.56056, - "recall_at_50": 0.597, - "recall_at_100": 0.59865, - "recall_at_1000": 0.59865, - "precision_at_1": 0.59754, - "precision_at_3": 0.37454, - "precision_at_5": 0.28412, - "precision_at_10": 0.17335, - "precision_at_50": 0.03842, - "precision_at_100": 0.01927, - "precision_at_1000": 0.00193, - "mrr_at_1": 0.59754, - "mrr_at_3": 0.65573, - "mrr_at_5": 0.6632, - "mrr_at_10": 0.66605, - "mrr_at_50": 0.66678, - "mrr_at_100": 0.66679, - "mrr_at_1000": 0.66679 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.72254, - "ndcg_at_3": 0.68479, - "ndcg_at_5": 0.68295, - "ndcg_at_10": 0.72016, - "ndcg_at_50": 0.75901, - "ndcg_at_100": 0.75991, - "ndcg_at_1000": 0.75991, - "map_at_1": 0.23665, - "map_at_3": 0.46426, - "map_at_5": 0.55373, - "map_at_10": 0.61964, - "map_at_50": 0.64456, - "map_at_100": 0.64479, - "map_at_1000": 0.64479, - "recall_at_1": 0.23665, - "recall_at_3": 0.51454, - "recall_at_5": 0.64476, - "recall_at_10": 0.7783, - "recall_at_50": 0.88193, - "recall_at_100": 0.88521, - "recall_at_1000": 0.88521, - "precision_at_1": 0.72254, - "precision_at_3": 0.5896, - "precision_at_5": 0.47283, - "precision_at_10": 0.3, - "precision_at_50": 0.06884, - "precision_at_100": 0.0346, - "precision_at_1000": 0.00346, - "mrr_at_1": 0.72254, - "mrr_at_3": 0.7948, - "mrr_at_5": 0.80434, - "mrr_at_10": 0.80805, - "mrr_at_50": 0.80948, - "mrr_at_100": 0.80948, - "mrr_at_1000": 0.80948 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.71471, - "ndcg_at_3": 0.66692, - "ndcg_at_5": 0.66214, - "ndcg_at_10": 0.70865, - "ndcg_at_50": 0.75106, - "ndcg_at_100": 0.75219, - "ndcg_at_1000": 0.75219, - "map_at_1": 0.21906, - "map_at_3": 0.41412, - "map_at_5": 0.51059, - "map_at_10": 0.60688, - "map_at_50": 0.63463, - "map_at_100": 0.63484, - "map_at_1000": 0.63484, - "recall_at_1": 0.21906, - "recall_at_3": 0.45024, - "recall_at_5": 0.58754, - "recall_at_10": 0.7609, - "recall_at_50": 0.87313, - "recall_at_100": 0.87848, - "recall_at_1000": 0.87848, - "precision_at_1": 0.71471, - "precision_at_3": 0.58759, - "precision_at_5": 0.49429, - "precision_at_10": 0.33784, - "precision_at_50": 0.07754, - "precision_at_100": 0.03889, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.71471, - "mrr_at_3": 0.78428, - "mrr_at_5": 0.79494, - "mrr_at_10": 0.79866, - "mrr_at_50": 0.8001, - "mrr_at_100": 0.80016, - "mrr_at_1000": 0.80016 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.7574, - "ndcg_at_3": 0.70048, - "ndcg_at_5": 0.69264, - "ndcg_at_10": 0.71858, - "ndcg_at_50": 0.75581, - "ndcg_at_100": 0.75674, - "ndcg_at_1000": 0.75674, - "map_at_1": 0.23843, - "map_at_3": 0.45374, - "map_at_5": 0.54664, - "map_at_10": 0.62637, - "map_at_50": 0.65332, - "map_at_100": 0.65349, - "map_at_1000": 0.65349, - "recall_at_1": 0.23843, - "recall_at_3": 0.48736, - "recall_at_5": 0.61725, - "recall_at_10": 0.74818, - "recall_at_50": 0.83652, - "recall_at_100": 0.84086, - "recall_at_1000": 0.84086, - "precision_at_1": 0.7574, - "precision_at_3": 0.59665, - "precision_at_5": 0.49349, - "precision_at_10": 0.32456, - "precision_at_50": 0.07485, - "precision_at_100": 0.03754, - "precision_at_1000": 0.00375, - "mrr_at_1": 0.7574, - "mrr_at_3": 0.81016, - "mrr_at_5": 0.81785, - "mrr_at_10": 0.82, - "mrr_at_50": 0.82106, - "mrr_at_100": 0.82112, - "mrr_at_1000": 0.82112 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.77876, - "ndcg_at_3": 0.71562, - "ndcg_at_5": 0.72287, - "ndcg_at_10": 0.76514, - "ndcg_at_50": 0.80462, - "ndcg_at_100": 0.80546, - "ndcg_at_1000": 0.80546, - "map_at_1": 0.26769, - "map_at_3": 0.50515, - "map_at_5": 0.59971, - "map_at_10": 0.67285, - "map_at_50": 0.69926, - "map_at_100": 0.69941, - "map_at_1000": 0.69941, - "recall_at_1": 0.26769, - "recall_at_3": 0.54083, - "recall_at_5": 0.68079, - "recall_at_10": 0.81513, - "recall_at_50": 0.91652, - "recall_at_100": 0.92045, - "recall_at_1000": 0.92045, - "precision_at_1": 0.77876, - "precision_at_3": 0.60472, - "precision_at_5": 0.4885, - "precision_at_10": 0.31298, - "precision_at_50": 0.07209, - "precision_at_100": 0.03614, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.77876, - "mrr_at_3": 0.83677, - "mrr_at_5": 0.84518, - "mrr_at_10": 0.84646, - "mrr_at_50": 0.84795, - "mrr_at_100": 0.84795, - "mrr_at_1000": 0.84795 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.86413, - "ndcg_at_3": 0.78943, - "ndcg_at_5": 0.77468, - "ndcg_at_10": 0.81675, - "ndcg_at_50": 0.85657, - "ndcg_at_100": 0.85744, - "ndcg_at_1000": 0.85744, - "map_at_1": 0.3195, - "map_at_3": 0.55329, - "map_at_5": 0.64393, - "map_at_10": 0.72771, - "map_at_50": 0.75512, - "map_at_100": 0.75534, - "map_at_1000": 0.75534, - "recall_at_1": 0.3195, - "recall_at_3": 0.58427, - "recall_at_5": 0.70554, - "recall_at_10": 0.84645, - "recall_at_50": 0.94591, - "recall_at_100": 0.94917, - "recall_at_1000": 0.94917, - "precision_at_1": 0.86413, - "precision_at_3": 0.64402, - "precision_at_5": 0.51196, - "precision_at_10": 0.33505, - "precision_at_50": 0.07652, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.86413, - "mrr_at_3": 0.9067, - "mrr_at_5": 0.90861, - "mrr_at_10": 0.91004, - "mrr_at_50": 0.91067, - "mrr_at_100": 0.91067, - "mrr_at_1000": 0.91067 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66369, - "ndcg_at_3": 0.61877, - "ndcg_at_5": 0.62963, - "ndcg_at_10": 0.66626, - "ndcg_at_50": 0.70605, - "ndcg_at_100": 0.70906, - "ndcg_at_1000": 0.70906, - "map_at_1": 0.29356, - "map_at_3": 0.46896, - "map_at_5": 0.53443, - "map_at_10": 0.58232, - "map_at_50": 0.60199, - "map_at_100": 0.60268, - "map_at_1000": 0.60268, - "recall_at_1": 0.29356, - "recall_at_3": 0.51481, - "recall_at_5": 0.62219, - "recall_at_10": 0.7208, - "recall_at_50": 0.83898, - "recall_at_100": 0.85085, - "recall_at_1000": 0.85085, - "precision_at_1": 0.66369, - "precision_at_3": 0.46429, - "precision_at_5": 0.36369, - "precision_at_10": 0.22768, - "precision_at_50": 0.05405, - "precision_at_100": 0.0275, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.66369, - "mrr_at_3": 0.73016, - "mrr_at_5": 0.73849, - "mrr_at_10": 0.74141, - "mrr_at_50": 0.74423, - "mrr_at_100": 0.74433, - "mrr_at_1000": 0.74433 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.72113, - "ndcg_at_3": 0.6693, - "ndcg_at_5": 0.68907, - "ndcg_at_10": 0.73995, - "ndcg_at_50": 0.76439, - "ndcg_at_100": 0.76541, - "ndcg_at_1000": 0.76541, - "map_at_1": 0.35133, - "map_at_3": 0.53574, - "map_at_5": 0.5926, - "map_at_10": 0.6405, - "map_at_50": 0.65505, - "map_at_100": 0.65522, - "map_at_1000": 0.65522, - "recall_at_1": 0.35133, - "recall_at_3": 0.60152, - "recall_at_5": 0.70651, - "recall_at_10": 0.82459, - "recall_at_50": 0.89109, - "recall_at_100": 0.89625, - "recall_at_1000": 0.89625, - "precision_at_1": 0.72113, - "precision_at_3": 0.47606, - "precision_at_5": 0.35718, - "precision_at_10": 0.22254, - "precision_at_50": 0.04958, - "precision_at_100": 0.0249, - "precision_at_1000": 0.00249, - "mrr_at_1": 0.72113, - "mrr_at_3": 0.80329, - "mrr_at_5": 0.81258, - "mrr_at_10": 0.81501, - "mrr_at_50": 0.8153, - "mrr_at_100": 0.81533, - "mrr_at_1000": 0.81533 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.71148, - "ndcg_at_3": 0.6446, - "ndcg_at_5": 0.66252, - "ndcg_at_10": 0.70976, - "ndcg_at_50": 0.74224, - "ndcg_at_100": 0.74347, - "ndcg_at_1000": 0.74347, - "map_at_1": 0.34626, - "map_at_3": 0.51827, - "map_at_5": 0.57144, - "map_at_10": 0.61403, - "map_at_50": 0.63024, - "map_at_100": 0.63038, - "map_at_1000": 0.63038, - "recall_at_1": 0.34626, - "recall_at_3": 0.58004, - "recall_at_5": 0.67471, - "recall_at_10": 0.78548, - "recall_at_50": 0.87729, - "recall_at_100": 0.8843, - "recall_at_1000": 0.8843, - "precision_at_1": 0.71148, - "precision_at_3": 0.45378, - "precision_at_5": 0.33894, - "precision_at_10": 0.21008, - "precision_at_50": 0.04852, - "precision_at_100": 0.02434, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.71148, - "mrr_at_3": 0.78478, - "mrr_at_5": 0.78968, - "mrr_at_10": 0.79379, - "mrr_at_50": 0.79539, - "mrr_at_100": 0.79548, - "mrr_at_1000": 0.79548 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.75269, - "ndcg_at_3": 0.68934, - "ndcg_at_5": 0.69919, - "ndcg_at_10": 0.73709, - "ndcg_at_50": 0.76344, - "ndcg_at_100": 0.76535, - "ndcg_at_1000": 0.76535, - "map_at_1": 0.39323, - "map_at_3": 0.56515, - "map_at_5": 0.61573, - "map_at_10": 0.64957, - "map_at_50": 0.66337, - "map_at_100": 0.6637, - "map_at_1000": 0.6637, - "recall_at_1": 0.39323, - "recall_at_3": 0.616, - "recall_at_5": 0.70044, - "recall_at_10": 0.79, - "recall_at_50": 0.86532, - "recall_at_100": 0.87432, - "recall_at_1000": 0.87432, - "precision_at_1": 0.75269, - "precision_at_3": 0.46685, - "precision_at_5": 0.34409, - "precision_at_10": 0.20403, - "precision_at_50": 0.04629, - "precision_at_100": 0.02339, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.75269, - "mrr_at_3": 0.82079, - "mrr_at_5": 0.82697, - "mrr_at_10": 0.83023, - "mrr_at_50": 0.83076, - "mrr_at_100": 0.8308, - "mrr_at_1000": 0.8308 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.60109, - "ndcg_at_3": 0.5698, - "ndcg_at_5": 0.58694, - "ndcg_at_10": 0.63212, - "ndcg_at_50": 0.6717, - "ndcg_at_100": 0.67333, - "ndcg_at_1000": 0.67333, - "map_at_1": 0.25819, - "map_at_3": 0.42392, - "map_at_5": 0.4844, - "map_at_10": 0.53305, - "map_at_50": 0.55282, - "map_at_100": 0.55307, - "map_at_1000": 0.55307, - "recall_at_1": 0.25819, - "recall_at_3": 0.48339, - "recall_at_5": 0.58978, - "recall_at_10": 0.7032, - "recall_at_50": 0.81968, - "recall_at_100": 0.82774, - "recall_at_1000": 0.82774, - "precision_at_1": 0.60109, - "precision_at_3": 0.43716, - "precision_at_5": 0.34699, - "precision_at_10": 0.22268, - "precision_at_50": 0.05284, - "precision_at_100": 0.02658, - "precision_at_1000": 0.00266, - "mrr_at_1": 0.60109, - "mrr_at_3": 0.69763, - "mrr_at_5": 0.70719, - "mrr_at_10": 0.71104, - "mrr_at_50": 0.71314, - "mrr_at_100": 0.71325, - "mrr_at_1000": 0.71325 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.62703, - "ndcg_at_3": 0.63136, - "ndcg_at_5": 0.66973, - "ndcg_at_10": 0.7223, - "ndcg_at_50": 0.75093, - "ndcg_at_100": 0.75377, - "ndcg_at_1000": 0.75377, - "map_at_1": 0.35438, - "map_at_3": 0.52954, - "map_at_5": 0.58669, - "map_at_10": 0.63279, - "map_at_50": 0.64625, - "map_at_100": 0.64669, - "map_at_1000": 0.64669, - "recall_at_1": 0.35438, - "recall_at_3": 0.60728, - "recall_at_5": 0.72667, - "recall_at_10": 0.84571, - "recall_at_50": 0.93626, - "recall_at_100": 0.94937, - "recall_at_1000": 0.94937, - "precision_at_1": 0.62703, - "precision_at_3": 0.41712, - "precision_at_5": 0.31838, - "precision_at_10": 0.19892, - "precision_at_50": 0.04481, - "precision_at_100": 0.02276, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.62703, - "mrr_at_3": 0.72477, - "mrr_at_5": 0.73545, - "mrr_at_10": 0.7406, - "mrr_at_50": 0.7427, - "mrr_at_100": 0.74278, - "mrr_at_1000": 0.74278 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.53067, - "ndcg_at_3": 0.56912, - "ndcg_at_5": 0.61481, - "ndcg_at_10": 0.66465, - "ndcg_at_50": 0.69544, - "ndcg_at_100": 0.69633, - "ndcg_at_1000": 0.69633, - "map_at_1": 0.35315, - "map_at_3": 0.49187, - "map_at_5": 0.53668, - "map_at_10": 0.57301, - "map_at_50": 0.58586, - "map_at_100": 0.58598, - "map_at_1000": 0.58598, - "recall_at_1": 0.35315, - "recall_at_3": 0.58613, - "recall_at_5": 0.69633, - "recall_at_10": 0.81393, - "recall_at_50": 0.91953, - "recall_at_100": 0.92413, - "recall_at_1000": 0.92413, - "precision_at_1": 0.53067, - "precision_at_3": 0.33129, - "precision_at_5": 0.25521, - "precision_at_10": 0.15951, - "precision_at_50": 0.0365, - "precision_at_100": 0.01834, - "precision_at_1000": 0.00183, - "mrr_at_1": 0.53067, - "mrr_at_3": 0.64315, - "mrr_at_5": 0.66309, - "mrr_at_10": 0.66904, - "mrr_at_50": 0.6713, - "mrr_at_100": 0.6713, - "mrr_at_1000": 0.6713 - }, - "gpt3": { - "ndcg_at_1": 0.43917, - "ndcg_at_3": 0.51787, - "ndcg_at_5": 0.57206, - "ndcg_at_10": 0.61169, - "ndcg_at_50": 0.64292, - "ndcg_at_100": 0.64588, - "ndcg_at_1000": 0.64588, - "map_at_1": 0.34743, - "map_at_3": 0.46662, - "map_at_5": 0.50472, - "map_at_10": 0.52567, - "map_at_50": 0.53577, - "map_at_100": 0.53614, - "map_at_1000": 0.53614, - "recall_at_1": 0.34743, - "recall_at_3": 0.57839, - "recall_at_5": 0.69733, - "recall_at_10": 0.80242, - "recall_at_50": 0.92161, - "recall_at_100": 0.93793, - "recall_at_1000": 0.93793, - "precision_at_1": 0.43917, - "precision_at_3": 0.26113, - "precision_at_5": 0.19703, - "precision_at_10": 0.11662, - "precision_at_50": 0.02724, - "precision_at_100": 0.01386, - "precision_at_1000": 0.00139, - "mrr_at_1": 0.43917, - "mrr_at_3": 0.54797, - "mrr_at_5": 0.57082, - "mrr_at_10": 0.58189, - "mrr_at_50": 0.58582, - "mrr_at_100": 0.586, - "mrr_at_1000": 0.586 - }, - "llm-survey": { - "ndcg_at_1": 0.61345, - "ndcg_at_3": 0.58518, - "ndcg_at_5": 0.60472, - "ndcg_at_10": 0.63964, - "ndcg_at_50": 0.67597, - "ndcg_at_100": 0.67863, - "ndcg_at_1000": 0.67863, - "map_at_1": 0.29899, - "map_at_3": 0.47108, - "map_at_5": 0.52053, - "map_at_10": 0.55409, - "map_at_50": 0.5714, - "map_at_100": 0.57176, - "map_at_1000": 0.57176, - "recall_at_1": 0.29899, - "recall_at_3": 0.53149, - "recall_at_5": 0.62321, - "recall_at_10": 0.71261, - "recall_at_50": 0.8236, - "recall_at_100": 0.83714, - "recall_at_1000": 0.83714, - "precision_at_1": 0.61345, - "precision_at_3": 0.4183, - "precision_at_5": 0.31429, - "precision_at_10": 0.18964, - "precision_at_50": 0.04471, - "precision_at_100": 0.02261, - "precision_at_1000": 0.00226, - "mrr_at_1": 0.61345, - "mrr_at_3": 0.69094, - "mrr_at_5": 0.70103, - "mrr_at_10": 0.70487, - "mrr_at_50": 0.708, - "mrr_at_100": 0.70817, - "mrr_at_1000": 0.70817 - }, - "gemini": { - "ndcg_at_1": 0.49398, - "ndcg_at_3": 0.61986, - "ndcg_at_5": 0.65477, - "ndcg_at_10": 0.67928, - "ndcg_at_50": 0.69643, - "ndcg_at_100": 0.69905, - "ndcg_at_1000": 0.69905, - "map_at_1": 0.49398, - "map_at_3": 0.58969, - "map_at_5": 0.60917, - "map_at_10": 0.61918, - "map_at_50": 0.62343, - "map_at_100": 0.62366, - "map_at_1000": 0.62366, - "recall_at_1": 0.49398, - "recall_at_3": 0.70683, - "recall_at_5": 0.79116, - "recall_at_10": 0.86747, - "recall_at_50": 0.93976, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.49398, - "precision_at_3": 0.23561, - "precision_at_5": 0.15823, - "precision_at_10": 0.08675, - "precision_at_50": 0.0188, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.49398, - "mrr_at_3": 0.58969, - "mrr_at_5": 0.60917, - "mrr_at_10": 0.61918, - "mrr_at_50": 0.62343, - "mrr_at_100": 0.62366, - "mrr_at_1000": 0.62366 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.73678, - "ndcg_at_3": 0.66561, - "ndcg_at_5": 0.67068, - "ndcg_at_10": 0.72058, - "ndcg_at_50": 0.76198, - "ndcg_at_100": 0.76395, - "ndcg_at_1000": 0.76395, - "map_at_1": 0.30048, - "map_at_3": 0.48276, - "map_at_5": 0.55493, - "map_at_10": 0.62168, - "map_at_50": 0.64647, - "map_at_100": 0.64683, - "map_at_1000": 0.64683, - "recall_at_1": 0.30048, - "recall_at_3": 0.52908, - "recall_at_5": 0.64521, - "recall_at_10": 0.78959, - "recall_at_50": 0.90497, - "recall_at_100": 0.91442, - "recall_at_1000": 0.91442, - "precision_at_1": 0.73678, - "precision_at_3": 0.51542, - "precision_at_5": 0.40661, - "precision_at_10": 0.26514, - "precision_at_50": 0.06225, - "precision_at_100": 0.03135, - "precision_at_1000": 0.00314, - "mrr_at_1": 0.73678, - "mrr_at_3": 0.79662, - "mrr_at_5": 0.80334, - "mrr_at_10": 0.80734, - "mrr_at_50": 0.80905, - "mrr_at_100": 0.80912, - "mrr_at_1000": 0.80912 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.30372, - "ndcg_at_3": 0.28087, - "ndcg_at_5": 0.28159, - "ndcg_at_10": 0.29569, - "ndcg_at_50": 0.3174, - "ndcg_at_100": 0.31947, - "ndcg_at_1000": 0.31947, - "map_at_1": 0.11319, - "map_at_3": 0.18278, - "map_at_5": 0.21283, - "map_at_10": 0.23867, - "map_at_50": 0.25054, - "map_at_100": 0.25089, - "map_at_1000": 0.25089, - "recall_at_1": 0.11319, - "recall_at_3": 0.21076, - "recall_at_5": 0.26337, - "recall_at_10": 0.32417, - "recall_at_50": 0.38303, - "recall_at_100": 0.39219, - "recall_at_1000": 0.39219, - "precision_at_1": 0.30372, - "precision_at_3": 0.22413, - "precision_at_5": 0.18057, - "precision_at_10": 0.11932, - "precision_at_50": 0.02931, - "precision_at_100": 0.01494, - "precision_at_1000": 0.00149, - "mrr_at_1": 0.30372, - "mrr_at_3": 0.35175, - "mrr_at_5": 0.35858, - "mrr_at_10": 0.36303, - "mrr_at_50": 0.36503, - "mrr_at_100": 0.36512, - "mrr_at_1000": 0.36512 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.55451, - "ndcg_at_3": 0.48578, - "ndcg_at_5": 0.47173, - "ndcg_at_10": 0.48867, - "ndcg_at_50": 0.52161, - "ndcg_at_100": 0.52283, - "ndcg_at_1000": 0.52283, - "map_at_1": 0.16695, - "map_at_3": 0.28229, - "map_at_5": 0.33534, - "map_at_10": 0.38474, - "map_at_50": 0.40493, - "map_at_100": 0.40516, - "map_at_1000": 0.40516, - "recall_at_1": 0.16695, - "recall_at_3": 0.31815, - "recall_at_5": 0.40441, - "recall_at_10": 0.50368, - "recall_at_50": 0.58453, - "recall_at_100": 0.58917, - "recall_at_1000": 0.58917, - "precision_at_1": 0.55451, - "precision_at_3": 0.41505, - "precision_at_5": 0.34013, - "precision_at_10": 0.22652, - "precision_at_50": 0.05405, - "precision_at_100": 0.02722, - "precision_at_1000": 0.00272, - "mrr_at_1": 0.55392, - "mrr_at_3": 0.62689, - "mrr_at_5": 0.63779, - "mrr_at_10": 0.64272, - "mrr_at_50": 0.64435, - "mrr_at_100": 0.6444, - "mrr_at_1000": 0.6444 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.53594, - "ndcg_at_3": 0.5215, - "ndcg_at_5": 0.52579, - "ndcg_at_10": 0.55178, - "ndcg_at_50": 0.58424, - "ndcg_at_100": 0.58632, - "ndcg_at_1000": 0.58632, - "map_at_1": 0.22945, - "map_at_3": 0.36124, - "map_at_5": 0.41327, - "map_at_10": 0.46527, - "map_at_50": 0.4864, - "map_at_100": 0.4868, - "map_at_1000": 0.4868, - "recall_at_1": 0.22945, - "recall_at_3": 0.40993, - "recall_at_5": 0.50009, - "recall_at_10": 0.60453, - "recall_at_50": 0.68504, - "recall_at_100": 0.69414, - "recall_at_1000": 0.69414, - "precision_at_1": 0.53594, - "precision_at_3": 0.39674, - "precision_at_5": 0.31983, - "precision_at_10": 0.21716, - "precision_at_50": 0.05271, - "precision_at_100": 0.02666, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.53717, - "mrr_at_3": 0.61534, - "mrr_at_5": 0.62727, - "mrr_at_10": 0.63242, - "mrr_at_50": 0.6337, - "mrr_at_100": 0.63379, - "mrr_at_1000": 0.63379 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.63618, - "ndcg_at_3": 0.59821, - "ndcg_at_5": 0.58568, - "ndcg_at_10": 0.60737, - "ndcg_at_50": 0.66981, - "ndcg_at_100": 0.67213, - "ndcg_at_1000": 0.67213, - "map_at_1": 0.1702, - "map_at_3": 0.32622, - "map_at_5": 0.40803, - "map_at_10": 0.49468, - "map_at_50": 0.53801, - "map_at_100": 0.5386, - "map_at_1000": 0.5386, - "recall_at_1": 0.1702, - "recall_at_3": 0.36594, - "recall_at_5": 0.48486, - "recall_at_10": 0.6401, - "recall_at_50": 0.79017, - "recall_at_100": 0.79896, - "recall_at_1000": 0.79896, - "precision_at_1": 0.63618, - "precision_at_3": 0.53141, - "precision_at_5": 0.45707, - "precision_at_10": 0.32515, - "precision_at_50": 0.08309, - "precision_at_100": 0.04196, - "precision_at_1000": 0.0042, - "mrr_at_1": 0.63633, - "mrr_at_3": 0.71562, - "mrr_at_5": 0.72622, - "mrr_at_10": 0.73108, - "mrr_at_50": 0.73259, - "mrr_at_100": 0.73263, - "mrr_at_1000": 0.73263 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.62807, - "ndcg_at_3": 0.55364, - "ndcg_at_5": 0.51216, - "ndcg_at_10": 0.51909, - "ndcg_at_50": 0.57029, - "ndcg_at_100": 0.57317, - "ndcg_at_1000": 0.57317, - "map_at_1": 0.13095, - "map_at_3": 0.26287, - "map_at_5": 0.32892, - "map_at_10": 0.39452, - "map_at_50": 0.42616, - "map_at_100": 0.42679, - "map_at_1000": 0.42679, - "recall_at_1": 0.13095, - "recall_at_3": 0.29261, - "recall_at_5": 0.38993, - "recall_at_10": 0.51445, - "recall_at_50": 0.63761, - "recall_at_100": 0.64853, - "recall_at_1000": 0.64853, - "precision_at_1": 0.62807, - "precision_at_3": 0.51263, - "precision_at_5": 0.42487, - "precision_at_10": 0.29072, - "precision_at_50": 0.07273, - "precision_at_100": 0.03687, - "precision_at_1000": 0.00369, - "mrr_at_1": 0.62753, - "mrr_at_3": 0.70384, - "mrr_at_5": 0.71345, - "mrr_at_10": 0.71725, - "mrr_at_50": 0.71905, - "mrr_at_100": 0.71913, - "mrr_at_1000": 0.71913 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.56532, - "ndcg_at_3": 0.51168, - "ndcg_at_5": 0.52611, - "ndcg_at_10": 0.56192, - "ndcg_at_50": 0.59437, - "ndcg_at_100": 0.59663, - "ndcg_at_1000": 0.59663, - "map_at_1": 0.23683, - "map_at_3": 0.37447, - "map_at_5": 0.42489, - "map_at_10": 0.46229, - "map_at_50": 0.47815, - "map_at_100": 0.47854, - "map_at_1000": 0.47854, - "recall_at_1": 0.23683, - "recall_at_3": 0.43056, - "recall_at_5": 0.52807, - "recall_at_10": 0.63025, - "recall_at_50": 0.7259, - "recall_at_100": 0.73622, - "recall_at_1000": 0.73622, - "precision_at_1": 0.56532, - "precision_at_3": 0.38918, - "precision_at_5": 0.30146, - "precision_at_10": 0.18817, - "precision_at_50": 0.04428, - "precision_at_100": 0.02243, - "precision_at_1000": 0.00224, - "mrr_at_1": 0.56591, - "mrr_at_3": 0.6447, - "mrr_at_5": 0.65659, - "mrr_at_10": 0.6624, - "mrr_at_50": 0.66444, - "mrr_at_100": 0.66452, - "mrr_at_1000": 0.66452 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.42493, - "ndcg_at_3": 0.37392, - "ndcg_at_5": 0.35827, - "ndcg_at_10": 0.37662, - "ndcg_at_50": 0.41471, - "ndcg_at_100": 0.41708, - "ndcg_at_1000": 0.41708, - "map_at_1": 0.10794, - "map_at_3": 0.19375, - "map_at_5": 0.23349, - "map_at_10": 0.27333, - "map_at_50": 0.29318, - "map_at_100": 0.29363, - "map_at_1000": 0.29363, - "recall_at_1": 0.10794, - "recall_at_3": 0.22937, - "recall_at_5": 0.3019, - "recall_at_10": 0.39362, - "recall_at_50": 0.49186, - "recall_at_100": 0.50099, - "recall_at_1000": 0.50099, - "precision_at_1": 0.42493, - "precision_at_3": 0.33426, - "precision_at_5": 0.27557, - "precision_at_10": 0.18825, - "precision_at_50": 0.04762, - "precision_at_100": 0.02421, - "precision_at_1000": 0.00242, - "mrr_at_1": 0.42659, - "mrr_at_3": 0.51025, - "mrr_at_5": 0.52463, - "mrr_at_10": 0.53136, - "mrr_at_50": 0.53398, - "mrr_at_100": 0.53404, - "mrr_at_1000": 0.53404 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.50662, - "ndcg_at_3": 0.52148, - "ndcg_at_5": 0.53831, - "ndcg_at_10": 0.56305, - "ndcg_at_50": 0.58145, - "ndcg_at_100": 0.58266, - "ndcg_at_1000": 0.58266, - "map_at_1": 0.31419, - "map_at_3": 0.43869, - "map_at_5": 0.47699, - "map_at_10": 0.50607, - "map_at_50": 0.51577, - "map_at_100": 0.51594, - "map_at_1000": 0.51594, - "recall_at_1": 0.31419, - "recall_at_3": 0.49466, - "recall_at_5": 0.56609, - "recall_at_10": 0.63738, - "recall_at_50": 0.69444, - "recall_at_100": 0.70071, - "recall_at_1000": 0.70071, - "precision_at_1": 0.50662, - "precision_at_3": 0.32303, - "precision_at_5": 0.24227, - "precision_at_10": 0.14883, - "precision_at_50": 0.03327, - "precision_at_100": 0.01676, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.50599, - "mrr_at_3": 0.57098, - "mrr_at_5": 0.57732, - "mrr_at_10": 0.5814, - "mrr_at_50": 0.583, - "mrr_at_100": 0.58307, - "mrr_at_1000": 0.58307 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.72722, - "ndcg_at_3": 0.62707, - "ndcg_at_5": 0.63068, - "ndcg_at_10": 0.65881, - "ndcg_at_50": 0.67961, - "ndcg_at_100": 0.68061, - "ndcg_at_1000": 0.68061, - "map_at_1": 0.37836, - "map_at_3": 0.4999, - "map_at_5": 0.5388, - "map_at_10": 0.56907, - "map_at_50": 0.58034, - "map_at_100": 0.58052, - "map_at_1000": 0.58052, - "recall_at_1": 0.37836, - "recall_at_3": 0.54055, - "recall_at_5": 0.61132, - "recall_at_10": 0.68848, - "recall_at_50": 0.74597, - "recall_at_100": 0.7504, - "recall_at_1000": 0.7504, - "precision_at_1": 0.72722, - "precision_at_3": 0.41136, - "precision_at_5": 0.29911, - "precision_at_10": 0.17945, - "precision_at_50": 0.0403, - "precision_at_100": 0.02027, - "precision_at_1000": 0.00203, - "mrr_at_1": 0.72662, - "mrr_at_3": 0.7835, - "mrr_at_5": 0.78919, - "mrr_at_10": 0.79177, - "mrr_at_50": 0.79268, - "mrr_at_100": 0.7927, - "mrr_at_1000": 0.7927 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.652, - "ndcg_at_3": 0.59869, - "ndcg_at_5": 0.61257, - "ndcg_at_10": 0.63719, - "ndcg_at_50": 0.6529, - "ndcg_at_100": 0.6536, - "ndcg_at_1000": 0.6536, - "map_at_1": 0.37363, - "map_at_3": 0.49658, - "map_at_5": 0.53411, - "map_at_10": 0.55908, - "map_at_50": 0.56713, - "map_at_100": 0.56723, - "map_at_1000": 0.56723, - "recall_at_1": 0.37363, - "recall_at_3": 0.54506, - "recall_at_5": 0.61924, - "recall_at_10": 0.68659, - "recall_at_50": 0.73283, - "recall_at_100": 0.73595, - "recall_at_1000": 0.73595, - "precision_at_1": 0.652, - "precision_at_3": 0.3758, - "precision_at_5": 0.27365, - "precision_at_10": 0.16115, - "precision_at_50": 0.03523, - "precision_at_100": 0.01771, - "precision_at_1000": 0.00177, - "mrr_at_1": 0.652, - "mrr_at_3": 0.71347, - "mrr_at_5": 0.72193, - "mrr_at_10": 0.72576, - "mrr_at_50": 0.72705, - "mrr_at_100": 0.72707, - "mrr_at_1000": 0.72707 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.53842, - "ndcg_at_3": 0.47027, - "ndcg_at_5": 0.47154, - "ndcg_at_10": 0.49469, - "ndcg_at_50": 0.51991, - "ndcg_at_100": 0.52129, - "ndcg_at_1000": 0.52129, - "map_at_1": 0.22, - "map_at_3": 0.33074, - "map_at_5": 0.37108, - "map_at_10": 0.40113, - "map_at_50": 0.41336, - "map_at_100": 0.41354, - "map_at_1000": 0.41354, - "recall_at_1": 0.22, - "recall_at_3": 0.37718, - "recall_at_5": 0.45317, - "recall_at_10": 0.52987, - "recall_at_50": 0.6027, - "recall_at_100": 0.60959, - "recall_at_1000": 0.60959, - "precision_at_1": 0.53842, - "precision_at_3": 0.35586, - "precision_at_5": 0.27302, - "precision_at_10": 0.16863, - "precision_at_50": 0.03911, - "precision_at_100": 0.0197, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.53842, - "mrr_at_3": 0.60919, - "mrr_at_5": 0.61759, - "mrr_at_10": 0.62194, - "mrr_at_50": 0.6237, - "mrr_at_100": 0.6238, - "mrr_at_1000": 0.6238 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.60547, - "ndcg_at_3": 0.53848, - "ndcg_at_5": 0.53951, - "ndcg_at_10": 0.56903, - "ndcg_at_50": 0.60356, - "ndcg_at_100": 0.60528, - "ndcg_at_1000": 0.60528, - "map_at_1": 0.24072, - "map_at_3": 0.36395, - "map_at_5": 0.41786, - "map_at_10": 0.46983, - "map_at_50": 0.49045, - "map_at_100": 0.49081, - "map_at_1000": 0.49081, - "recall_at_1": 0.24072, - "recall_at_3": 0.40065, - "recall_at_5": 0.49689, - "recall_at_10": 0.60808, - "recall_at_50": 0.69603, - "recall_at_100": 0.70294, - "recall_at_1000": 0.70294, - "precision_at_1": 0.60547, - "precision_at_3": 0.41711, - "precision_at_5": 0.33642, - "precision_at_10": 0.22549, - "precision_at_50": 0.05413, - "precision_at_100": 0.02734, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.60547, - "mrr_at_3": 0.67043, - "mrr_at_5": 0.68338, - "mrr_at_10": 0.68851, - "mrr_at_50": 0.69, - "mrr_at_100": 0.69002, - "mrr_at_1000": 0.69002 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5372, - "ndcg_at_3": 0.49911, - "ndcg_at_5": 0.49645, - "ndcg_at_10": 0.51355, - "ndcg_at_50": 0.53265, - "ndcg_at_100": 0.53315, - "ndcg_at_1000": 0.53315, - "map_at_1": 0.26048, - "map_at_3": 0.36105, - "map_at_5": 0.39775, - "map_at_10": 0.4282, - "map_at_50": 0.43937, - "map_at_100": 0.43948, - "map_at_1000": 0.43948, - "recall_at_1": 0.26048, - "recall_at_3": 0.40785, - "recall_at_5": 0.475, - "recall_at_10": 0.54875, - "recall_at_50": 0.59688, - "recall_at_100": 0.59865, - "recall_at_1000": 0.59865, - "precision_at_1": 0.5372, - "precision_at_3": 0.34739, - "precision_at_5": 0.26667, - "precision_at_10": 0.16755, - "precision_at_50": 0.03836, - "precision_at_100": 0.01927, - "precision_at_1000": 0.00193, - "mrr_at_1": 0.5372, - "mrr_at_3": 0.61209, - "mrr_at_5": 0.62205, - "mrr_at_10": 0.62665, - "mrr_at_50": 0.62743, - "mrr_at_100": 0.62743, - "mrr_at_1000": 0.62743 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65318, - "ndcg_at_3": 0.6041, - "ndcg_at_5": 0.61459, - "ndcg_at_10": 0.66741, - "ndcg_at_50": 0.71165, - "ndcg_at_100": 0.71477, - "ndcg_at_1000": 0.71477, - "map_at_1": 0.20756, - "map_at_3": 0.39177, - "map_at_5": 0.47266, - "map_at_10": 0.54748, - "map_at_50": 0.57509, - "map_at_100": 0.57559, - "map_at_1000": 0.57559, - "recall_at_1": 0.20756, - "recall_at_3": 0.45552, - "recall_at_5": 0.59502, - "recall_at_10": 0.75283, - "recall_at_50": 0.86999, - "recall_at_100": 0.88521, - "recall_at_1000": 0.88521, - "precision_at_1": 0.65318, - "precision_at_3": 0.5183, - "precision_at_5": 0.43006, - "precision_at_10": 0.2896, - "precision_at_50": 0.0685, - "precision_at_100": 0.0346, - "precision_at_1000": 0.00346, - "mrr_at_1": 0.65318, - "mrr_at_3": 0.74422, - "mrr_at_5": 0.75737, - "mrr_at_10": 0.7602, - "mrr_at_50": 0.76179, - "mrr_at_100": 0.76193, - "mrr_at_1000": 0.76193 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.64565, - "ndcg_at_3": 0.59474, - "ndcg_at_5": 0.60386, - "ndcg_at_10": 0.64815, - "ndcg_at_50": 0.70642, - "ndcg_at_100": 0.70847, - "ndcg_at_1000": 0.70847, - "map_at_1": 0.18721, - "map_at_3": 0.35274, - "map_at_5": 0.44641, - "map_at_10": 0.53246, - "map_at_50": 0.56903, - "map_at_100": 0.56927, - "map_at_1000": 0.56927, - "recall_at_1": 0.18721, - "recall_at_3": 0.39773, - "recall_at_5": 0.55105, - "recall_at_10": 0.71164, - "recall_at_50": 0.8671, - "recall_at_100": 0.87848, - "recall_at_1000": 0.87848, - "precision_at_1": 0.64565, - "precision_at_3": 0.52853, - "precision_at_5": 0.45946, - "precision_at_10": 0.31562, - "precision_at_50": 0.07742, - "precision_at_100": 0.03889, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.64565, - "mrr_at_3": 0.72873, - "mrr_at_5": 0.74464, - "mrr_at_10": 0.74788, - "mrr_at_50": 0.7497, - "mrr_at_100": 0.74983, - "mrr_at_1000": 0.74983 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71006, - "ndcg_at_3": 0.6357, - "ndcg_at_5": 0.62528, - "ndcg_at_10": 0.66516, - "ndcg_at_50": 0.71229, - "ndcg_at_100": 0.71412, - "ndcg_at_1000": 0.71412, - "map_at_1": 0.21131, - "map_at_3": 0.38872, - "map_at_5": 0.47257, - "map_at_10": 0.56019, - "map_at_50": 0.59116, - "map_at_100": 0.59152, - "map_at_1000": 0.59152, - "recall_at_1": 0.21131, - "recall_at_3": 0.42374, - "recall_at_5": 0.54668, - "recall_at_10": 0.71133, - "recall_at_50": 0.83252, - "recall_at_100": 0.84086, - "recall_at_1000": 0.84086, - "precision_at_1": 0.71006, - "precision_at_3": 0.54536, - "precision_at_5": 0.45621, - "precision_at_10": 0.31598, - "precision_at_50": 0.07462, - "precision_at_100": 0.03754, - "precision_at_1000": 0.00375, - "mrr_at_1": 0.71006, - "mrr_at_3": 0.7643, - "mrr_at_5": 0.77318, - "mrr_at_10": 0.77671, - "mrr_at_50": 0.77916, - "mrr_at_100": 0.7792, - "mrr_at_1000": 0.7792 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.73451, - "ndcg_at_3": 0.64855, - "ndcg_at_5": 0.6521, - "ndcg_at_10": 0.70962, - "ndcg_at_50": 0.76006, - "ndcg_at_100": 0.76235, - "ndcg_at_1000": 0.76235, - "map_at_1": 0.24418, - "map_at_3": 0.44073, - "map_at_5": 0.52027, - "map_at_10": 0.60036, - "map_at_50": 0.63168, - "map_at_100": 0.63206, - "map_at_1000": 0.63206, - "recall_at_1": 0.24418, - "recall_at_3": 0.48289, - "recall_at_5": 0.61187, - "recall_at_10": 0.7764, - "recall_at_50": 0.90969, - "recall_at_100": 0.92045, - "recall_at_1000": 0.92045, - "precision_at_1": 0.73451, - "precision_at_3": 0.55162, - "precision_at_5": 0.44189, - "precision_at_10": 0.30029, - "precision_at_50": 0.07174, - "precision_at_100": 0.03614, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.73451, - "mrr_at_3": 0.79892, - "mrr_at_5": 0.80674, - "mrr_at_10": 0.81014, - "mrr_at_50": 0.81233, - "mrr_at_100": 0.81239, - "mrr_at_1000": 0.81239 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.8125, - "ndcg_at_3": 0.74711, - "ndcg_at_5": 0.73616, - "ndcg_at_10": 0.78899, - "ndcg_at_50": 0.83057, - "ndcg_at_100": 0.83255, - "ndcg_at_1000": 0.83255, - "map_at_1": 0.2951, - "map_at_3": 0.51517, - "map_at_5": 0.60299, - "map_at_10": 0.69092, - "map_at_50": 0.71945, - "map_at_100": 0.72, - "map_at_1000": 0.72, - "recall_at_1": 0.2951, - "recall_at_3": 0.55211, - "recall_at_5": 0.67447, - "recall_at_10": 0.83792, - "recall_at_50": 0.94208, - "recall_at_100": 0.94917, - "recall_at_1000": 0.94917, - "precision_at_1": 0.8125, - "precision_at_3": 0.61504, - "precision_at_5": 0.49348, - "precision_at_10": 0.32989, - "precision_at_50": 0.07609, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.8125, - "mrr_at_3": 0.87138, - "mrr_at_5": 0.87572, - "mrr_at_10": 0.8783, - "mrr_at_50": 0.87887, - "mrr_at_100": 0.87887, - "mrr_at_1000": 0.87887 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.65774, - "ndcg_at_3": 0.60681, - "ndcg_at_5": 0.61233, - "ndcg_at_10": 0.65352, - "ndcg_at_50": 0.69547, - "ndcg_at_100": 0.6987, - "ndcg_at_1000": 0.6987, - "map_at_1": 0.28329, - "map_at_3": 0.45969, - "map_at_5": 0.51766, - "map_at_10": 0.56707, - "map_at_50": 0.58848, - "map_at_100": 0.58901, - "map_at_1000": 0.58901, - "recall_at_1": 0.28329, - "recall_at_3": 0.49976, - "recall_at_5": 0.59879, - "recall_at_10": 0.71012, - "recall_at_50": 0.8348, - "recall_at_100": 0.85085, - "recall_at_1000": 0.85085, - "precision_at_1": 0.65774, - "precision_at_3": 0.46329, - "precision_at_5": 0.35655, - "precision_at_10": 0.22649, - "precision_at_50": 0.05429, - "precision_at_100": 0.0275, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.65774, - "mrr_at_3": 0.71776, - "mrr_at_5": 0.72862, - "mrr_at_10": 0.73219, - "mrr_at_50": 0.73477, - "mrr_at_100": 0.73495, - "mrr_at_1000": 0.73495 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.68169, - "ndcg_at_3": 0.62281, - "ndcg_at_5": 0.64404, - "ndcg_at_10": 0.70207, - "ndcg_at_50": 0.73449, - "ndcg_at_100": 0.73527, - "ndcg_at_1000": 0.73527, - "map_at_1": 0.32269, - "map_at_3": 0.4866, - "map_at_5": 0.54363, - "map_at_10": 0.59575, - "map_at_50": 0.61324, - "map_at_100": 0.61335, - "map_at_1000": 0.61335, - "recall_at_1": 0.32269, - "recall_at_3": 0.55353, - "recall_at_5": 0.66228, - "recall_at_10": 0.79756, - "recall_at_50": 0.89217, - "recall_at_100": 0.89625, - "recall_at_1000": 0.89625, - "precision_at_1": 0.68169, - "precision_at_3": 0.44695, - "precision_at_5": 0.34028, - "precision_at_10": 0.21859, - "precision_at_50": 0.04963, - "precision_at_100": 0.0249, - "precision_at_1000": 0.00249, - "mrr_at_1": 0.68169, - "mrr_at_3": 0.76573, - "mrr_at_5": 0.77643, - "mrr_at_10": 0.77984, - "mrr_at_50": 0.78156, - "mrr_at_100": 0.78159, - "mrr_at_1000": 0.78159 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.65826, - "ndcg_at_3": 0.62509, - "ndcg_at_5": 0.64798, - "ndcg_at_10": 0.69214, - "ndcg_at_50": 0.72845, - "ndcg_at_100": 0.72985, - "ndcg_at_1000": 0.72985, - "map_at_1": 0.32101, - "map_at_3": 0.50114, - "map_at_5": 0.5556, - "map_at_10": 0.59467, - "map_at_50": 0.61334, - "map_at_100": 0.61359, - "map_at_1000": 0.61359, - "recall_at_1": 0.32101, - "recall_at_3": 0.56505, - "recall_at_5": 0.66681, - "recall_at_10": 0.77301, - "recall_at_50": 0.87764, - "recall_at_100": 0.8843, - "recall_at_1000": 0.8843, - "precision_at_1": 0.65826, - "precision_at_3": 0.44631, - "precision_at_5": 0.34006, - "precision_at_10": 0.207, - "precision_at_50": 0.04835, - "precision_at_100": 0.02434, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.65826, - "mrr_at_3": 0.75163, - "mrr_at_5": 0.76256, - "mrr_at_10": 0.76572, - "mrr_at_50": 0.76746, - "mrr_at_100": 0.76752, - "mrr_at_1000": 0.76752 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.68011, - "ndcg_at_3": 0.63508, - "ndcg_at_5": 0.64807, - "ndcg_at_10": 0.68702, - "ndcg_at_50": 0.72356, - "ndcg_at_100": 0.72701, - "ndcg_at_1000": 0.72701, - "map_at_1": 0.35296, - "map_at_3": 0.51467, - "map_at_5": 0.56255, - "map_at_10": 0.5953, - "map_at_50": 0.61343, - "map_at_100": 0.61398, - "map_at_1000": 0.61398, - "recall_at_1": 0.35296, - "recall_at_3": 0.56862, - "recall_at_5": 0.65709, - "recall_at_10": 0.74974, - "recall_at_50": 0.85846, - "recall_at_100": 0.87432, - "recall_at_1000": 0.87432, - "precision_at_1": 0.68011, - "precision_at_3": 0.4328, - "precision_at_5": 0.32419, - "precision_at_10": 0.19435, - "precision_at_50": 0.04597, - "precision_at_100": 0.02339, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.68011, - "mrr_at_3": 0.76254, - "mrr_at_5": 0.76927, - "mrr_at_10": 0.77425, - "mrr_at_50": 0.77611, - "mrr_at_100": 0.77625, - "mrr_at_1000": 0.77625 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.62022, - "ndcg_at_3": 0.56588, - "ndcg_at_5": 0.57597, - "ndcg_at_10": 0.62174, - "ndcg_at_50": 0.66333, - "ndcg_at_100": 0.66737, - "ndcg_at_1000": 0.66737, - "map_at_1": 0.25918, - "map_at_3": 0.41674, - "map_at_5": 0.47457, - "map_at_10": 0.52539, - "map_at_50": 0.54557, - "map_at_100": 0.54615, - "map_at_1000": 0.54615, - "recall_at_1": 0.25918, - "recall_at_3": 0.45961, - "recall_at_5": 0.56491, - "recall_at_10": 0.68382, - "recall_at_50": 0.80752, - "recall_at_100": 0.82774, - "recall_at_1000": 0.82774, - "precision_at_1": 0.62022, - "precision_at_3": 0.43989, - "precision_at_5": 0.34536, - "precision_at_10": 0.22158, - "precision_at_50": 0.0523, - "precision_at_100": 0.02658, - "precision_at_1000": 0.00266, - "mrr_at_1": 0.62022, - "mrr_at_3": 0.69126, - "mrr_at_5": 0.7056, - "mrr_at_10": 0.70976, - "mrr_at_50": 0.71328, - "mrr_at_100": 0.7134, - "mrr_at_1000": 0.7134 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.57297, - "ndcg_at_3": 0.56155, - "ndcg_at_5": 0.60913, - "ndcg_at_10": 0.66446, - "ndcg_at_50": 0.70969, - "ndcg_at_100": 0.71073, - "ndcg_at_1000": 0.71073, - "map_at_1": 0.32143, - "map_at_3": 0.46047, - "map_at_5": 0.52021, - "map_at_10": 0.56482, - "map_at_50": 0.58526, - "map_at_100": 0.58544, - "map_at_1000": 0.58544, - "recall_at_1": 0.32143, - "recall_at_3": 0.5364, - "recall_at_5": 0.66885, - "recall_at_10": 0.79627, - "recall_at_50": 0.94419, - "recall_at_100": 0.94937, - "recall_at_1000": 0.94937, - "precision_at_1": 0.57297, - "precision_at_3": 0.37568, - "precision_at_5": 0.29946, - "precision_at_10": 0.18919, - "precision_at_50": 0.0453, - "precision_at_100": 0.02276, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.57297, - "mrr_at_3": 0.67523, - "mrr_at_5": 0.68887, - "mrr_at_10": 0.69458, - "mrr_at_50": 0.69805, - "mrr_at_100": 0.69809, - "mrr_at_1000": 0.69809 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.43252, - "ndcg_at_3": 0.47201, - "ndcg_at_5": 0.51419, - "ndcg_at_10": 0.58048, - "ndcg_at_50": 0.62299, - "ndcg_at_100": 0.62639, - "ndcg_at_1000": 0.62639, - "map_at_1": 0.27723, - "map_at_3": 0.40053, - "map_at_5": 0.44207, - "map_at_10": 0.48436, - "map_at_50": 0.50029, - "map_at_100": 0.50072, - "map_at_1000": 0.50072, - "recall_at_1": 0.27723, - "recall_at_3": 0.48902, - "recall_at_5": 0.58966, - "recall_at_10": 0.75321, - "recall_at_50": 0.90624, - "recall_at_100": 0.92413, - "recall_at_1000": 0.92413, - "precision_at_1": 0.43252, - "precision_at_3": 0.29141, - "precision_at_5": 0.22454, - "precision_at_10": 0.15061, - "precision_at_50": 0.03607, - "precision_at_100": 0.01834, - "precision_at_1000": 0.00183, - "mrr_at_1": 0.43252, - "mrr_at_3": 0.54346, - "mrr_at_5": 0.55803, - "mrr_at_10": 0.57182, - "mrr_at_50": 0.57675, - "mrr_at_100": 0.57691, - "mrr_at_1000": 0.57691 - }, - "gpt3": { - "ndcg_at_1": 0.38576, - "ndcg_at_3": 0.44745, - "ndcg_at_5": 0.49716, - "ndcg_at_10": 0.54641, - "ndcg_at_50": 0.59015, - "ndcg_at_100": 0.59484, - "ndcg_at_1000": 0.59484, - "map_at_1": 0.30663, - "map_at_3": 0.40228, - "map_at_5": 0.43228, - "map_at_10": 0.45744, - "map_at_50": 0.47128, - "map_at_100": 0.47175, - "map_at_1000": 0.47175, - "recall_at_1": 0.30663, - "recall_at_3": 0.49951, - "recall_at_5": 0.61103, - "recall_at_10": 0.74184, - "recall_at_50": 0.91024, - "recall_at_100": 0.93793, - "recall_at_1000": 0.93793, - "precision_at_1": 0.38576, - "precision_at_3": 0.22453, - "precision_at_5": 0.16914, - "precision_at_10": 0.10712, - "precision_at_50": 0.02706, - "precision_at_100": 0.01386, - "precision_at_1000": 0.00139, - "mrr_at_1": 0.38576, - "mrr_at_3": 0.47774, - "mrr_at_5": 0.50593, - "mrr_at_10": 0.52072, - "mrr_at_50": 0.52592, - "mrr_at_100": 0.52627, - "mrr_at_1000": 0.52627 - }, - "llm-survey": { - "ndcg_at_1": 0.42297, - "ndcg_at_3": 0.40919, - "ndcg_at_5": 0.43859, - "ndcg_at_10": 0.49667, - "ndcg_at_50": 0.56008, - "ndcg_at_100": 0.56411, - "ndcg_at_1000": 0.56411, - "map_at_1": 0.19558, - "map_at_3": 0.31126, - "map_at_5": 0.35477, - "map_at_10": 0.39692, - "map_at_50": 0.42458, - "map_at_100": 0.42503, - "map_at_1000": 0.42503, - "recall_at_1": 0.19558, - "recall_at_3": 0.36447, - "recall_at_5": 0.46682, - "recall_at_10": 0.614, - "recall_at_50": 0.81526, - "recall_at_100": 0.83714, - "recall_at_1000": 0.83714, - "precision_at_1": 0.42297, - "precision_at_3": 0.30812, - "precision_at_5": 0.24258, - "precision_at_10": 0.16611, - "precision_at_50": 0.04454, - "precision_at_100": 0.02261, - "precision_at_1000": 0.00226, - "mrr_at_1": 0.42297, - "mrr_at_3": 0.50794, - "mrr_at_5": 0.52782, - "mrr_at_10": 0.54041, - "mrr_at_50": 0.5459, - "mrr_at_100": 0.54626, - "mrr_at_1000": 0.54626 - }, - "gemini": { - "ndcg_at_1": 0.35341, - "ndcg_at_3": 0.47117, - "ndcg_at_5": 0.51282, - "ndcg_at_10": 0.54937, - "ndcg_at_50": 0.58456, - "ndcg_at_100": 0.58989, - "ndcg_at_1000": 0.58989, - "map_at_1": 0.35341, - "map_at_3": 0.44244, - "map_at_5": 0.46573, - "map_at_10": 0.48089, - "map_at_50": 0.48867, - "map_at_100": 0.48918, - "map_at_1000": 0.48918, - "recall_at_1": 0.35341, - "recall_at_3": 0.55422, - "recall_at_5": 0.65462, - "recall_at_10": 0.76707, - "recall_at_50": 0.92369, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.35341, - "precision_at_3": 0.18474, - "precision_at_5": 0.13092, - "precision_at_10": 0.07671, - "precision_at_50": 0.01847, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.35341, - "mrr_at_3": 0.44244, - "mrr_at_5": 0.46573, - "mrr_at_10": 0.48089, - "mrr_at_50": 0.4887, - "mrr_at_100": 0.4892, - "mrr_at_1000": 0.4892 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.61289, - "ndcg_at_3": 0.53299, - "ndcg_at_5": 0.53818, - "ndcg_at_10": 0.58391, - "ndcg_at_50": 0.65968, - "ndcg_at_100": 0.67098, - "ndcg_at_1000": 0.68278, - "map_at_1": 0.25582, - "map_at_3": 0.37893, - "map_at_5": 0.42779, - "map_at_10": 0.47531, - "map_at_50": 0.51183, - "map_at_100": 0.51398, - "map_at_1000": 0.51488, - "recall_at_1": 0.25582, - "recall_at_3": 0.42405, - "recall_at_5": 0.51674, - "recall_at_10": 0.64702, - "recall_at_50": 0.86628, - "recall_at_100": 0.91442, - "recall_at_1000": 0.98542, - "precision_at_1": 0.61289, - "precision_at_3": 0.39703, - "precision_at_5": 0.31244, - "precision_at_10": 0.20837, - "precision_at_50": 0.05938, - "precision_at_100": 0.03135, - "precision_at_1000": 0.00332, - "mrr_at_1": 0.61289, - "mrr_at_3": 0.68273, - "mrr_at_5": 0.69578, - "mrr_at_10": 0.70236, - "mrr_at_50": 0.70583, - "mrr_at_100": 0.70607, - "mrr_at_1000": 0.70621 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.11716, - "ndcg_at_3": 0.12332, - "ndcg_at_5": 0.12997, - "ndcg_at_10": 0.14607, - "ndcg_at_50": 0.19513, - "ndcg_at_100": 0.21039, - "ndcg_at_1000": 0.25247, - "map_at_1": 0.04514, - "map_at_3": 0.0788, - "map_at_5": 0.09227, - "map_at_10": 0.10723, - "map_at_50": 0.12454, - "map_at_100": 0.12672, - "map_at_1000": 0.12879, - "recall_at_1": 0.04514, - "recall_at_3": 0.09951, - "recall_at_5": 0.13201, - "recall_at_10": 0.1815, - "recall_at_50": 0.3276, - "recall_at_100": 0.39219, - "recall_at_1000": 0.64751, - "precision_at_1": 0.11716, - "precision_at_3": 0.10124, - "precision_at_5": 0.08595, - "precision_at_10": 0.06391, - "precision_at_50": 0.02507, - "precision_at_100": 0.01494, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.11716, - "mrr_at_3": 0.15501, - "mrr_at_5": 0.16542, - "mrr_at_10": 0.17274, - "mrr_at_50": 0.17976, - "mrr_at_100": 0.18069, - "mrr_at_1000": 0.18163 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.2746, - "ndcg_at_3": 0.25299, - "ndcg_at_5": 0.25052, - "ndcg_at_10": 0.2727, - "ndcg_at_50": 0.34728, - "ndcg_at_100": 0.36766, - "ndcg_at_1000": 0.40978, - "map_at_1": 0.08113, - "map_at_3": 0.13606, - "map_at_5": 0.16252, - "map_at_10": 0.19075, - "map_at_50": 0.21957, - "map_at_100": 0.22305, - "map_at_1000": 0.22591, - "recall_at_1": 0.08113, - "recall_at_3": 0.16707, - "recall_at_5": 0.2217, - "recall_at_10": 0.30653, - "recall_at_50": 0.51093, - "recall_at_100": 0.58917, - "recall_at_1000": 0.80859, - "precision_at_1": 0.2746, - "precision_at_3": 0.21784, - "precision_at_5": 0.18421, - "precision_at_10": 0.135, - "precision_at_50": 0.04722, - "precision_at_100": 0.02722, - "precision_at_1000": 0.00365, - "mrr_at_1": 0.2746, - "mrr_at_3": 0.34463, - "mrr_at_5": 0.36018, - "mrr_at_10": 0.37283, - "mrr_at_50": 0.3819, - "mrr_at_100": 0.3826, - "mrr_at_1000": 0.38309 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.35626, - "ndcg_at_3": 0.35676, - "ndcg_at_5": 0.36376, - "ndcg_at_10": 0.38992, - "ndcg_at_50": 0.45665, - "ndcg_at_100": 0.472, - "ndcg_at_1000": 0.49892, - "map_at_1": 0.16289, - "map_at_3": 0.24551, - "map_at_5": 0.27755, - "map_at_10": 0.31234, - "map_at_50": 0.34258, - "map_at_100": 0.34519, - "map_at_1000": 0.34702, - "recall_at_1": 0.16289, - "recall_at_3": 0.2877, - "recall_at_5": 0.3553, - "recall_at_10": 0.44499, - "recall_at_50": 0.63115, - "recall_at_100": 0.69414, - "recall_at_1000": 0.84359, - "precision_at_1": 0.35626, - "precision_at_3": 0.26642, - "precision_at_5": 0.21611, - "precision_at_10": 0.15434, - "precision_at_50": 0.04827, - "precision_at_100": 0.02666, - "precision_at_1000": 0.0032, - "mrr_at_1": 0.35626, - "mrr_at_3": 0.43463, - "mrr_at_5": 0.45015, - "mrr_at_10": 0.45967, - "mrr_at_50": 0.46601, - "mrr_at_100": 0.46655, - "mrr_at_1000": 0.46691 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.51369, - "ndcg_at_3": 0.47619, - "ndcg_at_5": 0.46066, - "ndcg_at_10": 0.47989, - "ndcg_at_50": 0.56996, - "ndcg_at_100": 0.58677, - "ndcg_at_1000": 0.60907, - "map_at_1": 0.13817, - "map_at_3": 0.25521, - "map_at_5": 0.31076, - "map_at_10": 0.37203, - "map_at_50": 0.42078, - "map_at_100": 0.42441, - "map_at_1000": 0.42635, - "recall_at_1": 0.13817, - "recall_at_3": 0.28958, - "recall_at_5": 0.37766, - "recall_at_10": 0.50909, - "recall_at_50": 0.73681, - "recall_at_100": 0.79896, - "recall_at_1000": 0.91221, - "precision_at_1": 0.51369, - "precision_at_3": 0.4189, - "precision_at_5": 0.35237, - "precision_at_10": 0.25496, - "precision_at_50": 0.07759, - "precision_at_100": 0.04196, - "precision_at_1000": 0.00469, - "mrr_at_1": 0.51369, - "mrr_at_3": 0.59057, - "mrr_at_5": 0.60374, - "mrr_at_10": 0.61319, - "mrr_at_50": 0.61788, - "mrr_at_100": 0.61818, - "mrr_at_1000": 0.61836 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.34098, - "ndcg_at_3": 0.29444, - "ndcg_at_5": 0.27861, - "ndcg_at_10": 0.29319, - "ndcg_at_50": 0.38862, - "ndcg_at_100": 0.41755, - "ndcg_at_1000": 0.46645, - "map_at_1": 0.07512, - "map_at_3": 0.13196, - "map_at_5": 0.15966, - "map_at_10": 0.1918, - "map_at_50": 0.23113, - "map_at_100": 0.23683, - "map_at_1000": 0.24091, - "recall_at_1": 0.07512, - "recall_at_3": 0.15931, - "recall_at_5": 0.21505, - "recall_at_10": 0.30344, - "recall_at_50": 0.54571, - "recall_at_100": 0.64853, - "recall_at_1000": 0.88307, - "precision_at_1": 0.34098, - "precision_at_3": 0.26699, - "precision_at_5": 0.22689, - "precision_at_10": 0.1674, - "precision_at_50": 0.06229, - "precision_at_100": 0.03687, - "precision_at_1000": 0.00489, - "mrr_at_1": 0.34098, - "mrr_at_3": 0.42716, - "mrr_at_5": 0.4449, - "mrr_at_10": 0.45698, - "mrr_at_50": 0.46535, - "mrr_at_100": 0.46597, - "mrr_at_1000": 0.46626 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.45108, - "ndcg_at_3": 0.4055, - "ndcg_at_5": 0.4148, - "ndcg_at_10": 0.44664, - "ndcg_at_50": 0.5009, - "ndcg_at_100": 0.51623, - "ndcg_at_1000": 0.53893, - "map_at_1": 0.20221, - "map_at_3": 0.30131, - "map_at_5": 0.33338, - "map_at_10": 0.35887, - "map_at_50": 0.38007, - "map_at_100": 0.38245, - "map_at_1000": 0.38389, - "recall_at_1": 0.20221, - "recall_at_3": 0.34531, - "recall_at_5": 0.4164, - "recall_at_10": 0.50363, - "recall_at_50": 0.66851, - "recall_at_100": 0.73622, - "recall_at_1000": 0.86976, - "precision_at_1": 0.45108, - "precision_at_3": 0.29643, - "precision_at_5": 0.22484, - "precision_at_10": 0.14353, - "precision_at_50": 0.04056, - "precision_at_100": 0.02243, - "precision_at_1000": 0.00265, - "mrr_at_1": 0.45108, - "mrr_at_3": 0.52041, - "mrr_at_5": 0.53485, - "mrr_at_10": 0.54418, - "mrr_at_50": 0.5491, - "mrr_at_100": 0.54966, - "mrr_at_1000": 0.54989 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.25651, - "ndcg_at_3": 0.22073, - "ndcg_at_5": 0.21457, - "ndcg_at_10": 0.23344, - "ndcg_at_50": 0.29718, - "ndcg_at_100": 0.31702, - "ndcg_at_1000": 0.35806, - "map_at_1": 0.06784, - "map_at_3": 0.11071, - "map_at_5": 0.13162, - "map_at_10": 0.15493, - "map_at_50": 0.17881, - "map_at_100": 0.18197, - "map_at_1000": 0.18464, - "recall_at_1": 0.06784, - "recall_at_3": 0.13712, - "recall_at_5": 0.1827, - "recall_at_10": 0.25268, - "recall_at_50": 0.42496, - "recall_at_100": 0.50099, - "recall_at_1000": 0.71352, - "precision_at_1": 0.25651, - "precision_at_3": 0.19187, - "precision_at_5": 0.16211, - "precision_at_10": 0.11906, - "precision_at_50": 0.04146, - "precision_at_100": 0.02421, - "precision_at_1000": 0.00334, - "mrr_at_1": 0.25651, - "mrr_at_3": 0.32355, - "mrr_at_5": 0.33961, - "mrr_at_10": 0.35122, - "mrr_at_50": 0.35925, - "mrr_at_100": 0.36007, - "mrr_at_1000": 0.36062 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.39432, - "ndcg_at_3": 0.4161, - "ndcg_at_5": 0.43375, - "ndcg_at_10": 0.45703, - "ndcg_at_50": 0.49601, - "ndcg_at_100": 0.50429, - "ndcg_at_1000": 0.52329, - "map_at_1": 0.24828, - "map_at_3": 0.34908, - "map_at_5": 0.37783, - "map_at_10": 0.3997, - "map_at_50": 0.41577, - "map_at_100": 0.41692, - "map_at_1000": 0.41777, - "recall_at_1": 0.24828, - "recall_at_3": 0.40503, - "recall_at_5": 0.46808, - "recall_at_10": 0.53526, - "recall_at_50": 0.66013, - "recall_at_100": 0.70071, - "recall_at_1000": 0.83899, - "precision_at_1": 0.39432, - "precision_at_3": 0.25216, - "precision_at_5": 0.19129, - "precision_at_10": 0.11849, - "precision_at_50": 0.03157, - "precision_at_100": 0.01676, - "precision_at_1000": 0.00191, - "mrr_at_1": 0.39495, - "mrr_at_3": 0.45899, - "mrr_at_5": 0.47066, - "mrr_at_10": 0.4761, - "mrr_at_50": 0.48022, - "mrr_at_100": 0.48069, - "mrr_at_1000": 0.48114 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.58964, - "ndcg_at_3": 0.49732, - "ndcg_at_5": 0.49786, - "ndcg_at_10": 0.52588, - "ndcg_at_50": 0.56842, - "ndcg_at_100": 0.58086, - "ndcg_at_1000": 0.60338, - "map_at_1": 0.29958, - "map_at_3": 0.38709, - "map_at_5": 0.41215, - "map_at_10": 0.43554, - "map_at_50": 0.45214, - "map_at_100": 0.45399, - "map_at_1000": 0.45537, - "recall_at_1": 0.29958, - "recall_at_3": 0.43221, - "recall_at_5": 0.4875, - "recall_at_10": 0.5642, - "recall_at_50": 0.69552, - "recall_at_100": 0.7504, - "recall_at_1000": 0.88018, - "precision_at_1": 0.58964, - "precision_at_3": 0.32003, - "precision_at_5": 0.22847, - "precision_at_10": 0.14032, - "precision_at_50": 0.03707, - "precision_at_100": 0.02027, - "precision_at_1000": 0.00245, - "mrr_at_1": 0.58964, - "mrr_at_3": 0.6484, - "mrr_at_5": 0.6585, - "mrr_at_10": 0.66521, - "mrr_at_50": 0.66881, - "mrr_at_100": 0.66924, - "mrr_at_1000": 0.66942 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.52287, - "ndcg_at_3": 0.47944, - "ndcg_at_5": 0.49036, - "ndcg_at_10": 0.51462, - "ndcg_at_50": 0.55419, - "ndcg_at_100": 0.56354, - "ndcg_at_1000": 0.5842, - "map_at_1": 0.30731, - "map_at_3": 0.39402, - "map_at_5": 0.41771, - "map_at_10": 0.43556, - "map_at_50": 0.45027, - "map_at_100": 0.45171, - "map_at_1000": 0.45299, - "recall_at_1": 0.30731, - "recall_at_3": 0.44764, - "recall_at_5": 0.50443, - "recall_at_10": 0.56905, - "recall_at_50": 0.69394, - "recall_at_100": 0.73595, - "recall_at_1000": 0.85991, - "precision_at_1": 0.52287, - "precision_at_3": 0.28894, - "precision_at_5": 0.20591, - "precision_at_10": 0.1242, - "precision_at_50": 0.03291, - "precision_at_100": 0.01771, - "precision_at_1000": 0.00212, - "mrr_at_1": 0.52287, - "mrr_at_3": 0.59033, - "mrr_at_5": 0.60127, - "mrr_at_10": 0.60808, - "mrr_at_50": 0.61237, - "mrr_at_100": 0.61261, - "mrr_at_1000": 0.61286 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.35471, - "ndcg_at_3": 0.29931, - "ndcg_at_5": 0.29987, - "ndcg_at_10": 0.32384, - "ndcg_at_50": 0.38031, - "ndcg_at_100": 0.39719, - "ndcg_at_1000": 0.43082, - "map_at_1": 0.14533, - "map_at_3": 0.20324, - "map_at_5": 0.22328, - "map_at_10": 0.24293, - "map_at_50": 0.26206, - "map_at_100": 0.26465, - "map_at_1000": 0.26674, - "recall_at_1": 0.14533, - "recall_at_3": 0.23871, - "recall_at_5": 0.28921, - "recall_at_10": 0.36229, - "recall_at_50": 0.53831, - "recall_at_100": 0.60959, - "recall_at_1000": 0.80545, - "precision_at_1": 0.35471, - "precision_at_3": 0.21799, - "precision_at_5": 0.16696, - "precision_at_10": 0.10988, - "precision_at_50": 0.03434, - "precision_at_100": 0.0197, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.35471, - "mrr_at_3": 0.41604, - "mrr_at_5": 0.43025, - "mrr_at_10": 0.43973, - "mrr_at_50": 0.44613, - "mrr_at_100": 0.44683, - "mrr_at_1000": 0.4472 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.43078, - "ndcg_at_3": 0.39642, - "ndcg_at_5": 0.39314, - "ndcg_at_10": 0.4179, - "ndcg_at_50": 0.47931, - "ndcg_at_100": 0.49596, - "ndcg_at_1000": 0.5223, - "map_at_1": 0.16406, - "map_at_3": 0.2542, - "map_at_5": 0.28656, - "map_at_10": 0.3199, - "map_at_50": 0.3466, - "map_at_100": 0.34964, - "map_at_1000": 0.35155, - "recall_at_1": 0.16406, - "recall_at_3": 0.30239, - "recall_at_5": 0.37153, - "recall_at_10": 0.46545, - "recall_at_50": 0.6367, - "recall_at_100": 0.70294, - "recall_at_1000": 0.84631, - "precision_at_1": 0.43078, - "precision_at_3": 0.30937, - "precision_at_5": 0.2429, - "precision_at_10": 0.16524, - "precision_at_50": 0.04908, - "precision_at_100": 0.02734, - "precision_at_1000": 0.00325, - "mrr_at_1": 0.43078, - "mrr_at_3": 0.51307, - "mrr_at_5": 0.52828, - "mrr_at_10": 0.53712, - "mrr_at_50": 0.54183, - "mrr_at_100": 0.54227, - "mrr_at_1000": 0.54258 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.32337, - "ndcg_at_3": 0.30481, - "ndcg_at_5": 0.31195, - "ndcg_at_10": 0.33485, - "ndcg_at_50": 0.38505, - "ndcg_at_100": 0.39857, - "ndcg_at_1000": 0.43012, - "map_at_1": 0.15594, - "map_at_3": 0.21448, - "map_at_5": 0.23708, - "map_at_10": 0.25877, - "map_at_50": 0.27666, - "map_at_100": 0.27879, - "map_at_1000": 0.28062, - "recall_at_1": 0.15594, - "recall_at_3": 0.26051, - "recall_at_5": 0.31935, - "recall_at_10": 0.39302, - "recall_at_50": 0.54223, - "recall_at_100": 0.59865, - "recall_at_1000": 0.77659, - "precision_at_1": 0.32337, - "precision_at_3": 0.20484, - "precision_at_5": 0.16274, - "precision_at_10": 0.11136, - "precision_at_50": 0.03427, - "precision_at_100": 0.01927, - "precision_at_1000": 0.00255, - "mrr_at_1": 0.32337, - "mrr_at_3": 0.39133, - "mrr_at_5": 0.40677, - "mrr_at_10": 0.4167, - "mrr_at_50": 0.42324, - "mrr_at_100": 0.42384, - "mrr_at_1000": 0.42429 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.46532, - "ndcg_at_3": 0.42754, - "ndcg_at_5": 0.43605, - "ndcg_at_10": 0.48704, - "ndcg_at_50": 0.57628, - "ndcg_at_100": 0.59336, - "ndcg_at_1000": 0.61144, - "map_at_1": 0.15754, - "map_at_3": 0.26938, - "map_at_5": 0.3206, - "map_at_10": 0.37223, - "map_at_50": 0.41384, - "map_at_100": 0.41707, - "map_at_1000": 0.41866, - "recall_at_1": 0.15754, - "recall_at_3": 0.31274, - "recall_at_5": 0.41244, - "recall_at_10": 0.56027, - "recall_at_50": 0.81402, - "recall_at_100": 0.88521, - "recall_at_1000": 0.9847, - "precision_at_1": 0.46532, - "precision_at_3": 0.35934, - "precision_at_5": 0.30231, - "precision_at_10": 0.21329, - "precision_at_50": 0.06387, - "precision_at_100": 0.0346, - "precision_at_1000": 0.00379, - "mrr_at_1": 0.46532, - "mrr_at_3": 0.55877, - "mrr_at_5": 0.57813, - "mrr_at_10": 0.59047, - "mrr_at_50": 0.59574, - "mrr_at_100": 0.59607, - "mrr_at_1000": 0.59618 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.5045, - "ndcg_at_3": 0.43099, - "ndcg_at_5": 0.4208, - "ndcg_at_10": 0.46643, - "ndcg_at_50": 0.56328, - "ndcg_at_100": 0.58413, - "ndcg_at_1000": 0.60439, - "map_at_1": 0.1305, - "map_at_3": 0.23757, - "map_at_5": 0.28807, - "map_at_10": 0.34953, - "map_at_50": 0.39408, - "map_at_100": 0.39828, - "map_at_1000": 0.40002, - "recall_at_1": 0.1305, - "recall_at_3": 0.27942, - "recall_at_5": 0.36992, - "recall_at_10": 0.5183, - "recall_at_50": 0.79405, - "recall_at_100": 0.87848, - "recall_at_1000": 0.98899, - "precision_at_1": 0.5045, - "precision_at_3": 0.37738, - "precision_at_5": 0.31652, - "precision_at_10": 0.23243, - "precision_at_50": 0.07081, - "precision_at_100": 0.03889, - "precision_at_1000": 0.00427, - "mrr_at_1": 0.5045, - "mrr_at_3": 0.57658, - "mrr_at_5": 0.58919, - "mrr_at_10": 0.59923, - "mrr_at_50": 0.60585, - "mrr_at_100": 0.60628, - "mrr_at_1000": 0.60639 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.52367, - "ndcg_at_3": 0.4654, - "ndcg_at_5": 0.45212, - "ndcg_at_10": 0.48295, - "ndcg_at_50": 0.57187, - "ndcg_at_100": 0.58857, - "ndcg_at_1000": 0.6138, - "map_at_1": 0.146, - "map_at_3": 0.26236, - "map_at_5": 0.31319, - "map_at_10": 0.36821, - "map_at_50": 0.41054, - "map_at_100": 0.4142, - "map_at_1000": 0.41623, - "recall_at_1": 0.146, - "recall_at_3": 0.29916, - "recall_at_5": 0.39402, - "recall_at_10": 0.52916, - "recall_at_50": 0.77708, - "recall_at_100": 0.84086, - "recall_at_1000": 0.98146, - "precision_at_1": 0.52367, - "precision_at_3": 0.40434, - "precision_at_5": 0.32781, - "precision_at_10": 0.23018, - "precision_at_50": 0.06911, - "precision_at_100": 0.03754, - "precision_at_1000": 0.00423, - "mrr_at_1": 0.52367, - "mrr_at_3": 0.59911, - "mrr_at_5": 0.61272, - "mrr_at_10": 0.62241, - "mrr_at_50": 0.62753, - "mrr_at_100": 0.62761, - "mrr_at_1000": 0.62788 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.62242, - "ndcg_at_3": 0.53213, - "ndcg_at_5": 0.53381, - "ndcg_at_10": 0.57788, - "ndcg_at_50": 0.65965, - "ndcg_at_100": 0.67395, - "ndcg_at_1000": 0.68741, - "map_at_1": 0.19989, - "map_at_3": 0.34242, - "map_at_5": 0.40399, - "map_at_10": 0.46021, - "map_at_50": 0.50126, - "map_at_100": 0.50398, - "map_at_1000": 0.5051, - "recall_at_1": 0.19989, - "recall_at_3": 0.38288, - "recall_at_5": 0.50073, - "recall_at_10": 0.63197, - "recall_at_50": 0.86067, - "recall_at_100": 0.92045, - "recall_at_1000": 0.99707, - "precision_at_1": 0.62242, - "precision_at_3": 0.44346, - "precision_at_5": 0.35516, - "precision_at_10": 0.24071, - "precision_at_50": 0.06802, - "precision_at_100": 0.03614, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.62242, - "mrr_at_3": 0.69174, - "mrr_at_5": 0.70634, - "mrr_at_10": 0.71269, - "mrr_at_50": 0.7168, - "mrr_at_100": 0.71709, - "mrr_at_1000": 0.71718 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.69565, - "ndcg_at_3": 0.60141, - "ndcg_at_5": 0.58806, - "ndcg_at_10": 0.62787, - "ndcg_at_50": 0.71166, - "ndcg_at_100": 0.72699, - "ndcg_at_1000": 0.73665, - "map_at_1": 0.24561, - "map_at_3": 0.40019, - "map_at_5": 0.45812, - "map_at_10": 0.51168, - "map_at_50": 0.55582, - "map_at_100": 0.55932, - "map_at_1000": 0.56032, - "recall_at_1": 0.24561, - "recall_at_3": 0.43778, - "recall_at_5": 0.53355, - "recall_at_10": 0.66369, - "recall_at_50": 0.88948, - "recall_at_100": 0.94917, - "recall_at_1000": 0.99728, - "precision_at_1": 0.69565, - "precision_at_3": 0.47917, - "precision_at_5": 0.3788, - "precision_at_10": 0.25136, - "precision_at_50": 0.07174, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00403, - "mrr_at_1": 0.69565, - "mrr_at_3": 0.76359, - "mrr_at_5": 0.77446, - "mrr_at_10": 0.78037, - "mrr_at_50": 0.78298, - "mrr_at_100": 0.78316, - "mrr_at_1000": 0.78322 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.50298, - "ndcg_at_3": 0.46746, - "ndcg_at_5": 0.46519, - "ndcg_at_10": 0.49897, - "ndcg_at_50": 0.57115, - "ndcg_at_100": 0.58772, - "ndcg_at_1000": 0.60974, - "map_at_1": 0.21012, - "map_at_3": 0.33491, - "map_at_5": 0.37433, - "map_at_10": 0.4047, - "map_at_50": 0.43454, - "map_at_100": 0.43726, - "map_at_1000": 0.43878, - "recall_at_1": 0.21012, - "recall_at_3": 0.38804, - "recall_at_5": 0.45963, - "recall_at_10": 0.55761, - "recall_at_50": 0.77519, - "recall_at_100": 0.85085, - "recall_at_1000": 0.98601, - "precision_at_1": 0.50298, - "precision_at_3": 0.35913, - "precision_at_5": 0.27083, - "precision_at_10": 0.17054, - "precision_at_50": 0.05048, - "precision_at_100": 0.0275, - "precision_at_1000": 0.00309, - "mrr_at_1": 0.50298, - "mrr_at_3": 0.57837, - "mrr_at_5": 0.58775, - "mrr_at_10": 0.59836, - "mrr_at_50": 0.6037, - "mrr_at_100": 0.60417, - "mrr_at_1000": 0.60448 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.51549, - "ndcg_at_3": 0.46774, - "ndcg_at_5": 0.4778, - "ndcg_at_10": 0.51844, - "ndcg_at_50": 0.58699, - "ndcg_at_100": 0.60643, - "ndcg_at_1000": 0.62439, - "map_at_1": 0.2413, - "map_at_3": 0.35452, - "map_at_5": 0.38713, - "map_at_10": 0.41487, - "map_at_50": 0.4422, - "map_at_100": 0.44531, - "map_at_1000": 0.4468, - "recall_at_1": 0.2413, - "recall_at_3": 0.41796, - "recall_at_5": 0.49159, - "recall_at_10": 0.59506, - "recall_at_50": 0.80566, - "recall_at_100": 0.89625, - "recall_at_1000": 1.0, - "precision_at_1": 0.51549, - "precision_at_3": 0.32676, - "precision_at_5": 0.24056, - "precision_at_10": 0.15239, - "precision_at_50": 0.04501, - "precision_at_100": 0.0249, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.51549, - "mrr_at_3": 0.60939, - "mrr_at_5": 0.61897, - "mrr_at_10": 0.6281, - "mrr_at_50": 0.63303, - "mrr_at_100": 0.63369, - "mrr_at_1000": 0.63388 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.48459, - "ndcg_at_3": 0.44258, - "ndcg_at_5": 0.45796, - "ndcg_at_10": 0.50216, - "ndcg_at_50": 0.57399, - "ndcg_at_100": 0.59039, - "ndcg_at_1000": 0.61031, - "map_at_1": 0.22539, - "map_at_3": 0.34085, - "map_at_5": 0.37162, - "map_at_10": 0.40142, - "map_at_50": 0.42846, - "map_at_100": 0.43122, - "map_at_1000": 0.43282, - "recall_at_1": 0.22539, - "recall_at_3": 0.40468, - "recall_at_5": 0.47908, - "recall_at_10": 0.58454, - "recall_at_50": 0.81275, - "recall_at_100": 0.8843, - "recall_at_1000": 1.0, - "precision_at_1": 0.48459, - "precision_at_3": 0.31186, - "precision_at_5": 0.23417, - "precision_at_10": 0.14958, - "precision_at_50": 0.04426, - "precision_at_100": 0.02434, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.48459, - "mrr_at_3": 0.5719, - "mrr_at_5": 0.58884, - "mrr_at_10": 0.59913, - "mrr_at_50": 0.60464, - "mrr_at_100": 0.60511, - "mrr_at_1000": 0.60527 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.52688, - "ndcg_at_3": 0.46383, - "ndcg_at_5": 0.47531, - "ndcg_at_10": 0.51549, - "ndcg_at_50": 0.58112, - "ndcg_at_100": 0.59856, - "ndcg_at_1000": 0.62071, - "map_at_1": 0.27494, - "map_at_3": 0.36558, - "map_at_5": 0.39449, - "map_at_10": 0.41898, - "map_at_50": 0.4419, - "map_at_100": 0.44499, - "map_at_1000": 0.44681, - "recall_at_1": 0.27494, - "recall_at_3": 0.41671, - "recall_at_5": 0.48824, - "recall_at_10": 0.58654, - "recall_at_50": 0.7978, - "recall_at_100": 0.87432, - "recall_at_1000": 1.0, - "precision_at_1": 0.52688, - "precision_at_3": 0.30108, - "precision_at_5": 0.22419, - "precision_at_10": 0.14167, - "precision_at_50": 0.04194, - "precision_at_100": 0.02339, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.52688, - "mrr_at_3": 0.59857, - "mrr_at_5": 0.61214, - "mrr_at_10": 0.62318, - "mrr_at_50": 0.62834, - "mrr_at_100": 0.62866, - "mrr_at_1000": 0.62878 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.44262, - "ndcg_at_3": 0.38838, - "ndcg_at_5": 0.39081, - "ndcg_at_10": 0.43714, - "ndcg_at_50": 0.51653, - "ndcg_at_100": 0.53502, - "ndcg_at_1000": 0.56177, - "map_at_1": 0.18059, - "map_at_3": 0.27641, - "map_at_5": 0.3063, - "map_at_10": 0.34144, - "map_at_50": 0.37195, - "map_at_100": 0.37492, - "map_at_1000": 0.37683, - "recall_at_1": 0.18059, - "recall_at_3": 0.31744, - "recall_at_5": 0.38401, - "recall_at_10": 0.50118, - "recall_at_50": 0.74823, - "recall_at_100": 0.82774, - "recall_at_1000": 0.986, - "precision_at_1": 0.44262, - "precision_at_3": 0.29417, - "precision_at_5": 0.22404, - "precision_at_10": 0.1541, - "precision_at_50": 0.0477, - "precision_at_100": 0.02658, - "precision_at_1000": 0.0031, - "mrr_at_1": 0.44262, - "mrr_at_3": 0.51184, - "mrr_at_5": 0.52577, - "mrr_at_10": 0.53762, - "mrr_at_50": 0.54536, - "mrr_at_100": 0.54582, - "mrr_at_1000": 0.54607 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.49189, - "ndcg_at_3": 0.48028, - "ndcg_at_5": 0.51726, - "ndcg_at_10": 0.5701, - "ndcg_at_50": 0.63139, - "ndcg_at_100": 0.64123, - "ndcg_at_1000": 0.64913, - "map_at_1": 0.26803, - "map_at_3": 0.38859, - "map_at_5": 0.43433, - "map_at_10": 0.46905, - "map_at_50": 0.49398, - "map_at_100": 0.49558, - "map_at_1000": 0.49614, - "recall_at_1": 0.26803, - "recall_at_3": 0.45973, - "recall_at_5": 0.56966, - "recall_at_10": 0.69831, - "recall_at_50": 0.90128, - "recall_at_100": 0.94937, - "recall_at_1000": 1.0, - "precision_at_1": 0.49189, - "precision_at_3": 0.32342, - "precision_at_5": 0.25243, - "precision_at_10": 0.16162, - "precision_at_50": 0.0433, - "precision_at_100": 0.02276, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.49189, - "mrr_at_3": 0.58423, - "mrr_at_5": 0.60234, - "mrr_at_10": 0.61294, - "mrr_at_50": 0.61756, - "mrr_at_100": 0.61787, - "mrr_at_1000": 0.61805 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.34356, - "ndcg_at_3": 0.38146, - "ndcg_at_5": 0.42231, - "ndcg_at_10": 0.47732, - "ndcg_at_50": 0.54169, - "ndcg_at_100": 0.55304, - "ndcg_at_1000": 0.5641, - "map_at_1": 0.21659, - "map_at_3": 0.31743, - "map_at_5": 0.35442, - "map_at_10": 0.3877, - "map_at_50": 0.40948, - "map_at_100": 0.41094, - "map_at_1000": 0.41157, - "recall_at_1": 0.21659, - "recall_at_3": 0.38896, - "recall_at_5": 0.49372, - "recall_at_10": 0.6291, - "recall_at_50": 0.86457, - "recall_at_100": 0.92413, - "recall_at_1000": 1.0, - "precision_at_1": 0.34356, - "precision_at_3": 0.24131, - "precision_at_5": 0.18896, - "precision_at_10": 0.12546, - "precision_at_50": 0.03448, - "precision_at_100": 0.01834, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.34356, - "mrr_at_3": 0.44683, - "mrr_at_5": 0.468, - "mrr_at_10": 0.48104, - "mrr_at_50": 0.48951, - "mrr_at_100": 0.49, - "mrr_at_1000": 0.4903 - }, - "gpt3": { - "ndcg_at_1": 0.34125, - "ndcg_at_3": 0.4125, - "ndcg_at_5": 0.45768, - "ndcg_at_10": 0.49811, - "ndcg_at_50": 0.54658, - "ndcg_at_100": 0.56074, - "ndcg_at_1000": 0.56983, - "map_at_1": 0.27621, - "map_at_3": 0.37286, - "map_at_5": 0.40226, - "map_at_10": 0.42166, - "map_at_50": 0.43466, - "map_at_100": 0.43643, - "map_at_1000": 0.43699, - "recall_at_1": 0.27621, - "recall_at_3": 0.4634, - "recall_at_5": 0.55984, - "recall_at_10": 0.67211, - "recall_at_50": 0.86128, - "recall_at_100": 0.93793, - "recall_at_1000": 1.0, - "precision_at_1": 0.34125, - "precision_at_3": 0.20673, - "precision_at_5": 0.15608, - "precision_at_10": 0.09555, - "precision_at_50": 0.02522, - "precision_at_100": 0.01386, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.34125, - "mrr_at_3": 0.43373, - "mrr_at_5": 0.45747, - "mrr_at_10": 0.47066, - "mrr_at_50": 0.47938, - "mrr_at_100": 0.47996, - "mrr_at_1000": 0.48019 - }, - "llm-survey": { - "ndcg_at_1": 0.40896, - "ndcg_at_3": 0.38586, - "ndcg_at_5": 0.40093, - "ndcg_at_10": 0.44724, - "ndcg_at_50": 0.51986, - "ndcg_at_100": 0.5318, - "ndcg_at_1000": 0.55679, - "map_at_1": 0.18435, - "map_at_3": 0.29104, - "map_at_5": 0.3225, - "map_at_10": 0.35545, - "map_at_50": 0.3816, - "map_at_100": 0.38347, - "map_at_1000": 0.38506, - "recall_at_1": 0.18435, - "recall_at_3": 0.34956, - "recall_at_5": 0.42297, - "recall_at_10": 0.54112, - "recall_at_50": 0.78078, - "recall_at_100": 0.83714, - "recall_at_1000": 0.99907, - "precision_at_1": 0.40896, - "precision_at_3": 0.28291, - "precision_at_5": 0.21401, - "precision_at_10": 0.14314, - "precision_at_50": 0.04235, - "precision_at_100": 0.02261, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.40896, - "mrr_at_3": 0.48833, - "mrr_at_5": 0.50331, - "mrr_at_10": 0.51328, - "mrr_at_50": 0.52116, - "mrr_at_100": 0.52163, - "mrr_at_1000": 0.52208 - }, - "gemini": { - "ndcg_at_1": 0.38153, - "ndcg_at_3": 0.48881, - "ndcg_at_5": 0.51768, - "ndcg_at_10": 0.55789, - "ndcg_at_50": 0.59265, - "ndcg_at_100": 0.60051, - "ndcg_at_1000": 0.60653, - "map_at_1": 0.38153, - "map_at_3": 0.46452, - "map_at_5": 0.48099, - "map_at_10": 0.49756, - "map_at_50": 0.50501, - "map_at_100": 0.50571, - "map_at_1000": 0.506, - "recall_at_1": 0.38153, - "recall_at_3": 0.55823, - "recall_at_5": 0.62651, - "recall_at_10": 0.751, - "recall_at_50": 0.90763, - "recall_at_100": 0.95582, - "recall_at_1000": 1.0, - "precision_at_1": 0.38153, - "precision_at_3": 0.18608, - "precision_at_5": 0.1253, - "precision_at_10": 0.0751, - "precision_at_50": 0.01815, - "precision_at_100": 0.00956, - "precision_at_1000": 0.001, - "mrr_at_1": 0.38153, - "mrr_at_3": 0.46452, - "mrr_at_5": 0.48099, - "mrr_at_10": 0.49756, - "mrr_at_50": 0.50501, - "mrr_at_100": 0.50571, - "mrr_at_1000": 0.506 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.27368, - "ndcg_at_3": 0.26462, - "ndcg_at_5": 0.27526, - "ndcg_at_10": 0.32208, - "ndcg_at_50": 0.44123, - "ndcg_at_100": 0.47359, - "ndcg_at_1000": 0.47359, - "map_at_1": 0.1085, - "map_at_3": 0.17096, - "map_at_5": 0.19807, - "map_at_10": 0.23084, - "map_at_50": 0.27382, - "map_at_100": 0.2798, - "map_at_1000": 0.2798, - "recall_at_1": 0.1085, - "recall_at_3": 0.21562, - "recall_at_5": 0.28188, - "recall_at_10": 0.40703, - "recall_at_50": 0.77527, - "recall_at_100": 0.91442, - "recall_at_1000": 0.91442, - "precision_at_1": 0.27368, - "precision_at_3": 0.20888, - "precision_at_5": 0.1739, - "precision_at_10": 0.13133, - "precision_at_50": 0.05348, - "precision_at_100": 0.03135, - "precision_at_1000": 0.00314, - "mrr_at_1": 0.27368, - "mrr_at_3": 0.35407, - "mrr_at_5": 0.37236, - "mrr_at_10": 0.38929, - "mrr_at_50": 0.40189, - "mrr_at_100": 0.40273, - "mrr_at_1000": 0.40273 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.26707, - "ndcg_at_3": 0.2488, - "ndcg_at_5": 0.25028, - "ndcg_at_10": 0.26603, - "ndcg_at_50": 0.297, - "ndcg_at_100": 0.29955, - "ndcg_at_1000": 0.29955, - "map_at_1": 0.10217, - "map_at_3": 0.16253, - "map_at_5": 0.18656, - "map_at_10": 0.2099, - "map_at_50": 0.22521, - "map_at_100": 0.22558, - "map_at_1000": 0.22558, - "recall_at_1": 0.10217, - "recall_at_3": 0.19103, - "recall_at_5": 0.23691, - "recall_at_10": 0.29582, - "recall_at_50": 0.38108, - "recall_at_100": 0.39219, - "recall_at_1000": 0.39219, - "precision_at_1": 0.26707, - "precision_at_3": 0.19582, - "precision_at_5": 0.15825, - "precision_at_10": 0.10744, - "precision_at_50": 0.02915, - "precision_at_100": 0.01494, - "precision_at_1000": 0.00149, - "mrr_at_1": 0.26707, - "mrr_at_3": 0.31649, - "mrr_at_5": 0.32468, - "mrr_at_10": 0.33001, - "mrr_at_50": 0.33283, - "mrr_at_100": 0.33297, - "mrr_at_1000": 0.33297 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.19328, - "ndcg_at_3": 0.19427, - "ndcg_at_5": 0.19854, - "ndcg_at_10": 0.23103, - "ndcg_at_50": 0.31681, - "ndcg_at_100": 0.33635, - "ndcg_at_1000": 0.33635, - "map_at_1": 0.05794, - "map_at_3": 0.10413, - "map_at_5": 0.12527, - "map_at_10": 0.15388, - "map_at_50": 0.18597, - "map_at_100": 0.18937, - "map_at_1000": 0.18937, - "recall_at_1": 0.05794, - "recall_at_3": 0.13721, - "recall_at_5": 0.18601, - "recall_at_10": 0.28118, - "recall_at_50": 0.51473, - "recall_at_100": 0.58917, - "recall_at_1000": 0.58917, - "precision_at_1": 0.19328, - "precision_at_3": 0.1701, - "precision_at_5": 0.14873, - "precision_at_10": 0.12074, - "precision_at_50": 0.04755, - "precision_at_100": 0.02722, - "precision_at_1000": 0.00272, - "mrr_at_1": 0.19328, - "mrr_at_3": 0.26675, - "mrr_at_5": 0.28507, - "mrr_at_10": 0.30253, - "mrr_at_50": 0.31276, - "mrr_at_100": 0.31361, - "mrr_at_1000": 0.31361 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.46406, - "ndcg_at_3": 0.45603, - "ndcg_at_5": 0.46451, - "ndcg_at_10": 0.49204, - "ndcg_at_50": 0.54046, - "ndcg_at_100": 0.54417, - "ndcg_at_1000": 0.54417, - "map_at_1": 0.20276, - "map_at_3": 0.31219, - "map_at_5": 0.35769, - "map_at_10": 0.40507, - "map_at_50": 0.43225, - "map_at_100": 0.43292, - "map_at_1000": 0.43292, - "recall_at_1": 0.20276, - "recall_at_3": 0.36073, - "recall_at_5": 0.4461, - "recall_at_10": 0.55185, - "recall_at_50": 0.67827, - "recall_at_100": 0.69414, - "recall_at_1000": 0.69414, - "precision_at_1": 0.46406, - "precision_at_3": 0.34283, - "precision_at_5": 0.28154, - "precision_at_10": 0.19603, - "precision_at_50": 0.05223, - "precision_at_100": 0.02666, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.46406, - "mrr_at_3": 0.54585, - "mrr_at_5": 0.55963, - "mrr_at_10": 0.56693, - "mrr_at_50": 0.56996, - "mrr_at_100": 0.57011, - "mrr_at_1000": 0.57011 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.55768, - "ndcg_at_3": 0.51922, - "ndcg_at_5": 0.50659, - "ndcg_at_10": 0.52823, - "ndcg_at_50": 0.61321, - "ndcg_at_100": 0.62128, - "ndcg_at_1000": 0.62128, - "map_at_1": 0.15382, - "map_at_3": 0.28513, - "map_at_5": 0.34889, - "map_at_10": 0.41825, - "map_at_50": 0.4674, - "map_at_100": 0.46935, - "map_at_1000": 0.46935, - "recall_at_1": 0.15382, - "recall_at_3": 0.32276, - "recall_at_5": 0.42165, - "recall_at_10": 0.5598, - "recall_at_50": 0.76987, - "recall_at_100": 0.79896, - "recall_at_1000": 0.79896, - "precision_at_1": 0.55768, - "precision_at_3": 0.45587, - "precision_at_5": 0.38687, - "precision_at_10": 0.27838, - "precision_at_50": 0.08085, - "precision_at_100": 0.04196, - "precision_at_1000": 0.0042, - "mrr_at_1": 0.55768, - "mrr_at_3": 0.63686, - "mrr_at_5": 0.65023, - "mrr_at_10": 0.65755, - "mrr_at_50": 0.66101, - "mrr_at_100": 0.66114, - "mrr_at_1000": 0.66114 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.26841, - "ndcg_at_3": 0.24114, - "ndcg_at_5": 0.23282, - "ndcg_at_10": 0.25482, - "ndcg_at_50": 0.36384, - "ndcg_at_100": 0.38931, - "ndcg_at_1000": 0.38931, - "map_at_1": 0.05619, - "map_at_3": 0.10273, - "map_at_5": 0.12746, - "map_at_10": 0.15732, - "map_at_50": 0.19949, - "map_at_100": 0.20485, - "map_at_1000": 0.20485, - "recall_at_1": 0.05619, - "recall_at_3": 0.12879, - "recall_at_5": 0.18457, - "recall_at_10": 0.27843, - "recall_at_50": 0.55829, - "recall_at_100": 0.64853, - "recall_at_1000": 0.64853, - "precision_at_1": 0.26841, - "precision_at_3": 0.22323, - "precision_at_5": 0.19669, - "precision_at_10": 0.1532, - "precision_at_50": 0.06372, - "precision_at_100": 0.03687, - "precision_at_1000": 0.00369, - "mrr_at_1": 0.26841, - "mrr_at_3": 0.3521, - "mrr_at_5": 0.3759, - "mrr_at_10": 0.39381, - "mrr_at_50": 0.40341, - "mrr_at_100": 0.40383, - "mrr_at_1000": 0.40383 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.47979, - "ndcg_at_3": 0.44226, - "ndcg_at_5": 0.45656, - "ndcg_at_10": 0.49419, - "ndcg_at_50": 0.54392, - "ndcg_at_100": 0.54906, - "ndcg_at_1000": 0.54906, - "map_at_1": 0.2104, - "map_at_3": 0.32939, - "map_at_5": 0.36881, - "map_at_10": 0.40289, - "map_at_50": 0.42344, - "map_at_100": 0.42435, - "map_at_1000": 0.42435, - "recall_at_1": 0.2104, - "recall_at_3": 0.37987, - "recall_at_5": 0.46335, - "recall_at_10": 0.56444, - "recall_at_50": 0.71447, - "recall_at_100": 0.73622, - "recall_at_1000": 0.73622, - "precision_at_1": 0.47979, - "precision_at_3": 0.32826, - "precision_at_5": 0.25436, - "precision_at_10": 0.16485, - "precision_at_50": 0.04341, - "precision_at_100": 0.02243, - "precision_at_1000": 0.00224, - "mrr_at_1": 0.47979, - "mrr_at_3": 0.55302, - "mrr_at_5": 0.56857, - "mrr_at_10": 0.57625, - "mrr_at_50": 0.5813, - "mrr_at_100": 0.58145, - "mrr_at_1000": 0.58145 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.21607, - "ndcg_at_3": 0.19986, - "ndcg_at_5": 0.19706, - "ndcg_at_10": 0.22127, - "ndcg_at_50": 0.29516, - "ndcg_at_100": 0.30894, - "ndcg_at_1000": 0.30894, - "map_at_1": 0.05872, - "map_at_3": 0.09973, - "map_at_5": 0.11886, - "map_at_10": 0.14352, - "map_at_50": 0.17068, - "map_at_100": 0.17308, - "map_at_1000": 0.17308, - "recall_at_1": 0.05872, - "recall_at_3": 0.12745, - "recall_at_5": 0.17047, - "recall_at_10": 0.25029, - "recall_at_50": 0.44905, - "recall_at_100": 0.50099, - "recall_at_1000": 0.50099, - "precision_at_1": 0.21607, - "precision_at_3": 0.17599, - "precision_at_5": 0.15169, - "precision_at_10": 0.11657, - "precision_at_50": 0.04361, - "precision_at_100": 0.02421, - "precision_at_1000": 0.00242, - "mrr_at_1": 0.21662, - "mrr_at_3": 0.29086, - "mrr_at_5": 0.30867, - "mrr_at_10": 0.32267, - "mrr_at_50": 0.33234, - "mrr_at_100": 0.33284, - "mrr_at_1000": 0.33284 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.44227, - "ndcg_at_3": 0.45953, - "ndcg_at_5": 0.48061, - "ndcg_at_10": 0.50484, - "ndcg_at_50": 0.53632, - "ndcg_at_100": 0.53941, - "ndcg_at_1000": 0.53941, - "map_at_1": 0.2742, - "map_at_3": 0.38578, - "map_at_5": 0.42175, - "map_at_10": 0.44712, - "map_at_50": 0.46137, - "map_at_100": 0.46176, - "map_at_1000": 0.46176, - "recall_at_1": 0.2742, - "recall_at_3": 0.44004, - "recall_at_5": 0.51596, - "recall_at_10": 0.58499, - "recall_at_50": 0.68399, - "recall_at_100": 0.70071, - "recall_at_1000": 0.70071, - "precision_at_1": 0.44227, - "precision_at_3": 0.28286, - "precision_at_5": 0.21577, - "precision_at_10": 0.13344, - "precision_at_50": 0.03293, - "precision_at_100": 0.01676, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.44227, - "mrr_at_3": 0.50421, - "mrr_at_5": 0.51591, - "mrr_at_10": 0.52125, - "mrr_at_50": 0.52417, - "mrr_at_100": 0.52435, - "mrr_at_1000": 0.52435 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.44669, - "ndcg_at_3": 0.41803, - "ndcg_at_5": 0.43518, - "ndcg_at_10": 0.47467, - "ndcg_at_50": 0.52563, - "ndcg_at_100": 0.53447, - "ndcg_at_1000": 0.53447, - "map_at_1": 0.23793, - "map_at_3": 0.3247, - "map_at_5": 0.35231, - "map_at_10": 0.37874, - "map_at_50": 0.39821, - "map_at_100": 0.3998, - "map_at_1000": 0.3998, - "recall_at_1": 0.23793, - "recall_at_3": 0.38781, - "recall_at_5": 0.4613, - "recall_at_10": 0.56039, - "recall_at_50": 0.71442, - "recall_at_100": 0.7504, - "recall_at_1000": 0.7504, - "precision_at_1": 0.44669, - "precision_at_3": 0.27318, - "precision_at_5": 0.20524, - "precision_at_10": 0.13413, - "precision_at_50": 0.03777, - "precision_at_100": 0.02027, - "precision_at_1000": 0.00203, - "mrr_at_1": 0.44669, - "mrr_at_3": 0.53514, - "mrr_at_5": 0.55292, - "mrr_at_10": 0.56507, - "mrr_at_50": 0.56948, - "mrr_at_100": 0.56967, - "mrr_at_1000": 0.56967 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.63868, - "ndcg_at_3": 0.59134, - "ndcg_at_5": 0.604, - "ndcg_at_10": 0.62694, - "ndcg_at_50": 0.64681, - "ndcg_at_100": 0.64835, - "ndcg_at_1000": 0.64835, - "map_at_1": 0.377, - "map_at_3": 0.49574, - "map_at_5": 0.52925, - "map_at_10": 0.55175, - "map_at_50": 0.56101, - "map_at_100": 0.56126, - "map_at_1000": 0.56126, - "recall_at_1": 0.377, - "recall_at_3": 0.54108, - "recall_at_5": 0.60977, - "recall_at_10": 0.67125, - "recall_at_50": 0.72909, - "recall_at_100": 0.73595, - "recall_at_1000": 0.73595, - "precision_at_1": 0.63868, - "precision_at_3": 0.36325, - "precision_at_5": 0.26161, - "precision_at_10": 0.15414, - "precision_at_50": 0.03501, - "precision_at_100": 0.01771, - "precision_at_1000": 0.00177, - "mrr_at_1": 0.63868, - "mrr_at_3": 0.70218, - "mrr_at_5": 0.71136, - "mrr_at_10": 0.71514, - "mrr_at_50": 0.7165, - "mrr_at_100": 0.71655, - "mrr_at_1000": 0.71655 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.48238, - "ndcg_at_3": 0.42358, - "ndcg_at_5": 0.42699, - "ndcg_at_10": 0.45479, - "ndcg_at_50": 0.4897, - "ndcg_at_100": 0.49143, - "ndcg_at_1000": 0.49143, - "map_at_1": 0.19722, - "map_at_3": 0.29325, - "map_at_5": 0.33012, - "map_at_10": 0.36003, - "map_at_50": 0.37609, - "map_at_100": 0.37635, - "map_at_1000": 0.37635, - "recall_at_1": 0.19722, - "recall_at_3": 0.34064, - "recall_at_5": 0.41448, - "recall_at_10": 0.50111, - "recall_at_50": 0.60123, - "recall_at_100": 0.60959, - "recall_at_1000": 0.60959, - "precision_at_1": 0.48238, - "precision_at_3": 0.31754, - "precision_at_5": 0.24806, - "precision_at_10": 0.15817, - "precision_at_50": 0.03899, - "precision_at_100": 0.0197, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.48238, - "mrr_at_3": 0.55507, - "mrr_at_5": 0.56695, - "mrr_at_10": 0.57325, - "mrr_at_50": 0.57648, - "mrr_at_100": 0.57656, - "mrr_at_1000": 0.57656 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.29234, - "ndcg_at_3": 0.29642, - "ndcg_at_5": 0.31002, - "ndcg_at_10": 0.34115, - "ndcg_at_50": 0.4224, - "ndcg_at_100": 0.43818, - "ndcg_at_1000": 0.43818, - "map_at_1": 0.11714, - "map_at_3": 0.18705, - "map_at_5": 0.21864, - "map_at_10": 0.24746, - "map_at_50": 0.28002, - "map_at_100": 0.28307, - "map_at_1000": 0.28307, - "recall_at_1": 0.11714, - "recall_at_3": 0.23865, - "recall_at_5": 0.3139, - "recall_at_10": 0.41349, - "recall_at_50": 0.64164, - "recall_at_100": 0.70294, - "recall_at_1000": 0.70294, - "precision_at_1": 0.29234, - "precision_at_3": 0.23252, - "precision_at_5": 0.19774, - "precision_at_10": 0.14106, - "precision_at_50": 0.04927, - "precision_at_100": 0.02734, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.29293, - "mrr_at_3": 0.39018, - "mrr_at_5": 0.4113, - "mrr_at_10": 0.42498, - "mrr_at_50": 0.43239, - "mrr_at_100": 0.43275, - "mrr_at_1000": 0.43275 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.46749, - "ndcg_at_3": 0.44321, - "ndcg_at_5": 0.44085, - "ndcg_at_10": 0.46129, - "ndcg_at_50": 0.49175, - "ndcg_at_100": 0.49382, - "ndcg_at_1000": 0.49382, - "map_at_1": 0.22765, - "map_at_3": 0.31751, - "map_at_5": 0.34822, - "map_at_10": 0.37639, - "map_at_50": 0.39116, - "map_at_100": 0.3915, - "map_at_1000": 0.3915, - "recall_at_1": 0.22765, - "recall_at_3": 0.36957, - "recall_at_5": 0.4298, - "recall_at_10": 0.50675, - "recall_at_50": 0.59016, - "recall_at_100": 0.59865, - "recall_at_1000": 0.59865, - "precision_at_1": 0.46749, - "precision_at_3": 0.30834, - "precision_at_5": 0.23503, - "precision_at_10": 0.1519, - "precision_at_50": 0.03793, - "precision_at_100": 0.01927, - "precision_at_1000": 0.00193, - "mrr_at_1": 0.46749, - "mrr_at_3": 0.54569, - "mrr_at_5": 0.55671, - "mrr_at_10": 0.56318, - "mrr_at_50": 0.56561, - "mrr_at_100": 0.56571, - "mrr_at_1000": 0.56571 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.55202, - "ndcg_at_3": 0.48797, - "ndcg_at_5": 0.4996, - "ndcg_at_10": 0.54986, - "ndcg_at_50": 0.62937, - "ndcg_at_100": 0.63821, - "ndcg_at_1000": 0.63821, - "map_at_1": 0.1747, - "map_at_3": 0.30671, - "map_at_5": 0.37314, - "map_at_10": 0.43364, - "map_at_50": 0.47239, - "map_at_100": 0.47421, - "map_at_1000": 0.47421, - "recall_at_1": 0.1747, - "recall_at_3": 0.35258, - "recall_at_5": 0.47581, - "recall_at_10": 0.62341, - "recall_at_50": 0.84741, - "recall_at_100": 0.88521, - "recall_at_1000": 0.88521, - "precision_at_1": 0.55202, - "precision_at_3": 0.41137, - "precision_at_5": 0.34798, - "precision_at_10": 0.24017, - "precision_at_50": 0.06665, - "precision_at_100": 0.0346, - "precision_at_1000": 0.00346, - "mrr_at_1": 0.55202, - "mrr_at_3": 0.62958, - "mrr_at_5": 0.64952, - "mrr_at_10": 0.65772, - "mrr_at_50": 0.66227, - "mrr_at_100": 0.66244, - "mrr_at_1000": 0.66244 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.53153, - "ndcg_at_3": 0.49026, - "ndcg_at_5": 0.47499, - "ndcg_at_10": 0.52145, - "ndcg_at_50": 0.61485, - "ndcg_at_100": 0.624, - "ndcg_at_1000": 0.624, - "map_at_1": 0.14412, - "map_at_3": 0.28317, - "map_at_5": 0.34211, - "map_at_10": 0.41158, - "map_at_50": 0.45706, - "map_at_100": 0.45886, - "map_at_1000": 0.45886, - "recall_at_1": 0.14412, - "recall_at_3": 0.32481, - "recall_at_5": 0.41757, - "recall_at_10": 0.57536, - "recall_at_50": 0.83952, - "recall_at_100": 0.87848, - "recall_at_1000": 0.87848, - "precision_at_1": 0.53153, - "precision_at_3": 0.43143, - "precision_at_5": 0.35495, - "precision_at_10": 0.25766, - "precision_at_50": 0.0752, - "precision_at_100": 0.03889, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.53153, - "mrr_at_3": 0.60961, - "mrr_at_5": 0.61817, - "mrr_at_10": 0.63194, - "mrr_at_50": 0.63751, - "mrr_at_100": 0.63781, - "mrr_at_1000": 0.63781 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.63018, - "ndcg_at_3": 0.56946, - "ndcg_at_5": 0.55335, - "ndcg_at_10": 0.58491, - "ndcg_at_50": 0.66048, - "ndcg_at_100": 0.6651, - "ndcg_at_1000": 0.6651, - "map_at_1": 0.1939, - "map_at_3": 0.34708, - "map_at_5": 0.41255, - "map_at_10": 0.47589, - "map_at_50": 0.51901, - "map_at_100": 0.5199, - "map_at_1000": 0.5199, - "recall_at_1": 0.1939, - "recall_at_3": 0.38595, - "recall_at_5": 0.48769, - "recall_at_10": 0.62166, - "recall_at_50": 0.82041, - "recall_at_100": 0.84086, - "recall_at_1000": 0.84086, - "precision_at_1": 0.63018, - "precision_at_3": 0.48422, - "precision_at_5": 0.39408, - "precision_at_10": 0.26805, - "precision_at_50": 0.07379, - "precision_at_100": 0.03754, - "precision_at_1000": 0.00375, - "mrr_at_1": 0.63018, - "mrr_at_3": 0.69576, - "mrr_at_5": 0.70641, - "mrr_at_10": 0.71308, - "mrr_at_50": 0.71529, - "mrr_at_100": 0.71535, - "mrr_at_1000": 0.71535 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.61652, - "ndcg_at_3": 0.55399, - "ndcg_at_5": 0.55218, - "ndcg_at_10": 0.60996, - "ndcg_at_50": 0.68579, - "ndcg_at_100": 0.69303, - "ndcg_at_1000": 0.69303, - "map_at_1": 0.20139, - "map_at_3": 0.36542, - "map_at_5": 0.42661, - "map_at_10": 0.49757, - "map_at_50": 0.53683, - "map_at_100": 0.5383, - "map_at_1000": 0.5383, - "recall_at_1": 0.20139, - "recall_at_3": 0.40998, - "recall_at_5": 0.51677, - "recall_at_10": 0.67599, - "recall_at_50": 0.88839, - "recall_at_100": 0.92045, - "recall_at_1000": 0.92045, - "precision_at_1": 0.61652, - "precision_at_3": 0.47099, - "precision_at_5": 0.37286, - "precision_at_10": 0.26254, - "precision_at_50": 0.07027, - "precision_at_100": 0.03614, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.61652, - "mrr_at_3": 0.69715, - "mrr_at_5": 0.70836, - "mrr_at_10": 0.71445, - "mrr_at_50": 0.71842, - "mrr_at_100": 0.71854, - "mrr_at_1000": 0.71854 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.74728, - "ndcg_at_3": 0.68677, - "ndcg_at_5": 0.68209, - "ndcg_at_10": 0.72471, - "ndcg_at_50": 0.78836, - "ndcg_at_100": 0.79109, - "ndcg_at_1000": 0.79109, - "map_at_1": 0.26874, - "map_at_3": 0.46352, - "map_at_5": 0.54616, - "map_at_10": 0.61668, - "map_at_50": 0.65626, - "map_at_100": 0.6568, - "map_at_1000": 0.6568, - "recall_at_1": 0.26874, - "recall_at_3": 0.50711, - "recall_at_5": 0.63218, - "recall_at_10": 0.77352, - "recall_at_50": 0.93832, - "recall_at_100": 0.94917, - "recall_at_1000": 0.94917, - "precision_at_1": 0.74728, - "precision_at_3": 0.56522, - "precision_at_5": 0.45652, - "precision_at_10": 0.30054, - "precision_at_50": 0.07598, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.74728, - "mrr_at_3": 0.82065, - "mrr_at_5": 0.82799, - "mrr_at_10": 0.83198, - "mrr_at_50": 0.83311, - "mrr_at_100": 0.83316, - "mrr_at_1000": 0.83316 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.56548, - "ndcg_at_3": 0.52041, - "ndcg_at_5": 0.53448, - "ndcg_at_10": 0.57511, - "ndcg_at_50": 0.63065, - "ndcg_at_100": 0.63941, - "ndcg_at_1000": 0.63941, - "map_at_1": 0.23555, - "map_at_3": 0.38729, - "map_at_5": 0.44264, - "map_at_10": 0.48451, - "map_at_50": 0.5107, - "map_at_100": 0.51208, - "map_at_1000": 0.51208, - "recall_at_1": 0.23555, - "recall_at_3": 0.43436, - "recall_at_5": 0.53535, - "recall_at_10": 0.64608, - "recall_at_50": 0.80923, - "recall_at_100": 0.85085, - "recall_at_1000": 0.85085, - "precision_at_1": 0.56548, - "precision_at_3": 0.39683, - "precision_at_5": 0.31667, - "precision_at_10": 0.20357, - "precision_at_50": 0.05298, - "precision_at_100": 0.0275, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.56548, - "mrr_at_3": 0.62847, - "mrr_at_5": 0.64127, - "mrr_at_10": 0.64926, - "mrr_at_50": 0.65307, - "mrr_at_100": 0.65361, - "mrr_at_1000": 0.65361 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.66479, - "ndcg_at_3": 0.60666, - "ndcg_at_5": 0.61599, - "ndcg_at_10": 0.66061, - "ndcg_at_50": 0.71091, - "ndcg_at_100": 0.71384, - "ndcg_at_1000": 0.71384, - "map_at_1": 0.31363, - "map_at_3": 0.47817, - "map_at_5": 0.52289, - "map_at_10": 0.55996, - "map_at_50": 0.58413, - "map_at_100": 0.5847, - "map_at_1000": 0.5847, - "recall_at_1": 0.31363, - "recall_at_3": 0.54613, - "recall_at_5": 0.62817, - "recall_at_10": 0.73379, - "recall_at_50": 0.88419, - "recall_at_100": 0.89625, - "recall_at_1000": 0.89625, - "precision_at_1": 0.66479, - "precision_at_3": 0.43286, - "precision_at_5": 0.31493, - "precision_at_10": 0.19549, - "precision_at_50": 0.04896, - "precision_at_100": 0.0249, - "precision_at_1000": 0.00249, - "mrr_at_1": 0.66479, - "mrr_at_3": 0.74695, - "mrr_at_5": 0.75286, - "mrr_at_10": 0.75955, - "mrr_at_50": 0.76181, - "mrr_at_100": 0.76181, - "mrr_at_1000": 0.76181 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.65546, - "ndcg_at_3": 0.577, - "ndcg_at_5": 0.59915, - "ndcg_at_10": 0.65191, - "ndcg_at_50": 0.69739, - "ndcg_at_100": 0.70012, - "ndcg_at_1000": 0.70012, - "map_at_1": 0.31727, - "map_at_3": 0.45938, - "map_at_5": 0.50647, - "map_at_10": 0.5497, - "map_at_50": 0.57021, - "map_at_100": 0.5707, - "map_at_1000": 0.5707, - "recall_at_1": 0.31727, - "recall_at_3": 0.51468, - "recall_at_5": 0.61145, - "recall_at_10": 0.73427, - "recall_at_50": 0.87197, - "recall_at_100": 0.8843, - "recall_at_1000": 0.8843, - "precision_at_1": 0.65546, - "precision_at_3": 0.39776, - "precision_at_5": 0.30252, - "precision_at_10": 0.1944, - "precision_at_50": 0.04801, - "precision_at_100": 0.02434, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.65546, - "mrr_at_3": 0.72549, - "mrr_at_5": 0.73697, - "mrr_at_10": 0.74381, - "mrr_at_50": 0.74627, - "mrr_at_100": 0.74633, - "mrr_at_1000": 0.74633 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.64516, - "ndcg_at_3": 0.58824, - "ndcg_at_5": 0.61275, - "ndcg_at_10": 0.65421, - "ndcg_at_50": 0.70064, - "ndcg_at_100": 0.70502, - "ndcg_at_1000": 0.70502, - "map_at_1": 0.35652, - "map_at_3": 0.48665, - "map_at_5": 0.5317, - "map_at_10": 0.56422, - "map_at_50": 0.58544, - "map_at_100": 0.58611, - "map_at_1000": 0.58611, - "recall_at_1": 0.35652, - "recall_at_3": 0.52908, - "recall_at_5": 0.62501, - "recall_at_10": 0.7167, - "recall_at_50": 0.85342, - "recall_at_100": 0.87432, - "recall_at_1000": 0.87432, - "precision_at_1": 0.64516, - "precision_at_3": 0.38082, - "precision_at_5": 0.2914, - "precision_at_10": 0.18145, - "precision_at_50": 0.04575, - "precision_at_100": 0.02339, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.64516, - "mrr_at_3": 0.71505, - "mrr_at_5": 0.73293, - "mrr_at_10": 0.73653, - "mrr_at_50": 0.73975, - "mrr_at_100": 0.73987, - "mrr_at_1000": 0.73987 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.44536, - "ndcg_at_3": 0.42183, - "ndcg_at_5": 0.43213, - "ndcg_at_10": 0.48281, - "ndcg_at_50": 0.55822, - "ndcg_at_100": 0.56675, - "ndcg_at_1000": 0.56675, - "map_at_1": 0.18986, - "map_at_3": 0.30058, - "map_at_5": 0.341, - "map_at_10": 0.38417, - "map_at_50": 0.41543, - "map_at_100": 0.41682, - "map_at_1000": 0.41682, - "recall_at_1": 0.18986, - "recall_at_3": 0.35144, - "recall_at_5": 0.43436, - "recall_at_10": 0.55872, - "recall_at_50": 0.78851, - "recall_at_100": 0.82774, - "recall_at_1000": 0.82774, - "precision_at_1": 0.44536, - "precision_at_3": 0.32605, - "precision_at_5": 0.25847, - "precision_at_10": 0.17732, - "precision_at_50": 0.05098, - "precision_at_100": 0.02658, - "precision_at_1000": 0.00266, - "mrr_at_1": 0.44536, - "mrr_at_3": 0.53552, - "mrr_at_5": 0.55246, - "mrr_at_10": 0.5625, - "mrr_at_50": 0.56971, - "mrr_at_100": 0.56998, - "mrr_at_1000": 0.56998 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.52703, - "ndcg_at_3": 0.52922, - "ndcg_at_5": 0.56633, - "ndcg_at_10": 0.62746, - "ndcg_at_50": 0.67736, - "ndcg_at_100": 0.68144, - "ndcg_at_1000": 0.68144, - "map_at_1": 0.29213, - "map_at_3": 0.43197, - "map_at_5": 0.48169, - "map_at_10": 0.52796, - "map_at_50": 0.5488, - "map_at_100": 0.54931, - "map_at_1000": 0.54931, - "recall_at_1": 0.29213, - "recall_at_3": 0.51219, - "recall_at_5": 0.62302, - "recall_at_10": 0.76832, - "recall_at_50": 0.92676, - "recall_at_100": 0.94937, - "recall_at_1000": 0.94937, - "precision_at_1": 0.52703, - "precision_at_3": 0.35045, - "precision_at_5": 0.27405, - "precision_at_10": 0.17919, - "precision_at_50": 0.04481, - "precision_at_100": 0.02276, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.52703, - "mrr_at_3": 0.63018, - "mrr_at_5": 0.6464, - "mrr_at_10": 0.65512, - "mrr_at_50": 0.65889, - "mrr_at_100": 0.65913, - "mrr_at_1000": 0.65913 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41411, - "ndcg_at_3": 0.45892, - "ndcg_at_5": 0.49156, - "ndcg_at_10": 0.54828, - "ndcg_at_50": 0.60112, - "ndcg_at_100": 0.60748, - "ndcg_at_1000": 0.60748, - "map_at_1": 0.25583, - "map_at_3": 0.38736, - "map_at_5": 0.42104, - "map_at_10": 0.4578, - "map_at_50": 0.47652, - "map_at_100": 0.47734, - "map_at_1000": 0.47734, - "recall_at_1": 0.25583, - "recall_at_3": 0.47992, - "recall_at_5": 0.56713, - "recall_at_10": 0.70503, - "recall_at_50": 0.89039, - "recall_at_100": 0.92413, - "recall_at_1000": 0.92413, - "precision_at_1": 0.41411, - "precision_at_3": 0.28425, - "precision_at_5": 0.21227, - "precision_at_10": 0.13926, - "precision_at_50": 0.03558, - "precision_at_100": 0.01834, - "precision_at_1000": 0.00183, - "mrr_at_1": 0.41411, - "mrr_at_3": 0.52045, - "mrr_at_5": 0.53717, - "mrr_at_10": 0.54905, - "mrr_at_50": 0.55631, - "mrr_at_100": 0.55658, - "mrr_at_1000": 0.55658 - }, - "gpt3": { - "ndcg_at_1": 0.36499, - "ndcg_at_3": 0.45298, - "ndcg_at_5": 0.50059, - "ndcg_at_10": 0.54103, - "ndcg_at_50": 0.58461, - "ndcg_at_100": 0.59227, - "ndcg_at_1000": 0.59227, - "map_at_1": 0.29031, - "map_at_3": 0.40245, - "map_at_5": 0.43467, - "map_at_10": 0.45588, - "map_at_50": 0.4687, - "map_at_100": 0.46956, - "map_at_1000": 0.46956, - "recall_at_1": 0.29031, - "recall_at_3": 0.51385, - "recall_at_5": 0.61573, - "recall_at_10": 0.72379, - "recall_at_50": 0.89491, - "recall_at_100": 0.93793, - "recall_at_1000": 0.93793, - "precision_at_1": 0.36499, - "precision_at_3": 0.23046, - "precision_at_5": 0.17329, - "precision_at_10": 0.10445, - "precision_at_50": 0.02647, - "precision_at_100": 0.01386, - "precision_at_1000": 0.00139, - "mrr_at_1": 0.36499, - "mrr_at_3": 0.48368, - "mrr_at_5": 0.50534, - "mrr_at_10": 0.51715, - "mrr_at_50": 0.52327, - "mrr_at_100": 0.52373, - "mrr_at_1000": 0.52373 - }, - "llm-survey": { - "ndcg_at_1": 0.45938, - "ndcg_at_3": 0.4382, - "ndcg_at_5": 0.46631, - "ndcg_at_10": 0.51049, - "ndcg_at_50": 0.56867, - "ndcg_at_100": 0.57789, - "ndcg_at_1000": 0.57789, - "map_at_1": 0.22063, - "map_at_3": 0.3408, - "map_at_5": 0.38343, - "map_at_10": 0.42053, - "map_at_50": 0.44444, - "map_at_100": 0.44561, - "map_at_1000": 0.44561, - "recall_at_1": 0.22063, - "recall_at_3": 0.39299, - "recall_at_5": 0.48937, - "recall_at_10": 0.59945, - "recall_at_50": 0.79027, - "recall_at_100": 0.83714, - "recall_at_1000": 0.83714, - "precision_at_1": 0.45938, - "precision_at_3": 0.3212, - "precision_at_5": 0.2521, - "precision_at_10": 0.16415, - "precision_at_50": 0.04336, - "precision_at_100": 0.02261, - "precision_at_1000": 0.00226, - "mrr_at_1": 0.45938, - "mrr_at_3": 0.54062, - "mrr_at_5": 0.55784, - "mrr_at_10": 0.56426, - "mrr_at_50": 0.57035, - "mrr_at_100": 0.57092, - "mrr_at_1000": 0.57092 - }, - "gemini": { - "ndcg_at_1": 0.40562, - "ndcg_at_3": 0.53499, - "ndcg_at_5": 0.57146, - "ndcg_at_10": 0.59711, - "ndcg_at_50": 0.62997, - "ndcg_at_100": 0.63266, - "ndcg_at_1000": 0.63266, - "map_at_1": 0.40562, - "map_at_3": 0.50335, - "map_at_5": 0.52363, - "map_at_10": 0.53402, - "map_at_50": 0.54154, - "map_at_100": 0.54181, - "map_at_1000": 0.54181, - "recall_at_1": 0.40562, - "recall_at_3": 0.62651, - "recall_at_5": 0.71486, - "recall_at_10": 0.79518, - "recall_at_50": 0.93976, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.40562, - "precision_at_3": 0.20884, - "precision_at_5": 0.14297, - "precision_at_10": 0.07952, - "precision_at_50": 0.0188, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.40562, - "mrr_at_3": 0.50335, - "mrr_at_5": 0.52363, - "mrr_at_10": 0.53402, - "mrr_at_50": 0.54154, - "mrr_at_100": 0.54181, - "mrr_at_1000": 0.54181 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.17621, - "ndcg_at_3": 0.17575, - "ndcg_at_5": 0.18817, - "ndcg_at_10": 0.22857, - "ndcg_at_50": 0.35558, - "ndcg_at_100": 0.40381, - "ndcg_at_1000": 0.40381, - "map_at_1": 0.06315, - "map_at_3": 0.10725, - "map_at_5": 0.12672, - "map_at_10": 0.15104, - "map_at_50": 0.1911, - "map_at_100": 0.19964, - "map_at_1000": 0.19964, - "recall_at_1": 0.06315, - "recall_at_3": 0.14768, - "recall_at_5": 0.20133, - "recall_at_10": 0.30649, - "recall_at_50": 0.70886, - "recall_at_100": 0.91442, - "recall_at_1000": 0.91442, - "precision_at_1": 0.17621, - "precision_at_3": 0.14134, - "precision_at_5": 0.12291, - "precision_at_10": 0.09692, - "precision_at_50": 0.04826, - "precision_at_100": 0.03135, - "precision_at_1000": 0.00314, - "mrr_at_1": 0.17676, - "mrr_at_3": 0.24872, - "mrr_at_5": 0.26694, - "mrr_at_10": 0.28542, - "mrr_at_50": 0.30176, - "mrr_at_100": 0.30291, - "mrr_at_1000": 0.30291 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.24597, - "ndcg_at_3": 0.23013, - "ndcg_at_5": 0.23279, - "ndcg_at_10": 0.24982, - "ndcg_at_50": 0.28462, - "ndcg_at_100": 0.28813, - "ndcg_at_1000": 0.28813, - "map_at_1": 0.09614, - "map_at_3": 0.15106, - "map_at_5": 0.17367, - "map_at_10": 0.19506, - "map_at_50": 0.21148, - "map_at_100": 0.21211, - "map_at_1000": 0.21211, - "recall_at_1": 0.09614, - "recall_at_3": 0.17998, - "recall_at_5": 0.22147, - "recall_at_10": 0.28087, - "recall_at_50": 0.37724, - "recall_at_100": 0.39219, - "recall_at_1000": 0.39219, - "precision_at_1": 0.24597, - "precision_at_3": 0.17971, - "precision_at_5": 0.14603, - "precision_at_10": 0.10078, - "precision_at_50": 0.02883, - "precision_at_100": 0.01494, - "precision_at_1000": 0.00149, - "mrr_at_1": 0.24542, - "mrr_at_3": 0.29428, - "mrr_at_5": 0.30178, - "mrr_at_10": 0.30915, - "mrr_at_50": 0.31249, - "mrr_at_100": 0.31262, - "mrr_at_1000": 0.31262 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.14555, - "ndcg_at_3": 0.15089, - "ndcg_at_5": 0.15901, - "ndcg_at_10": 0.18491, - "ndcg_at_50": 0.26881, - "ndcg_at_100": 0.30186, - "ndcg_at_1000": 0.30186, - "map_at_1": 0.04674, - "map_at_3": 0.08191, - "map_at_5": 0.10013, - "map_at_10": 0.12118, - "map_at_50": 0.14842, - "map_at_100": 0.15402, - "map_at_1000": 0.15402, - "recall_at_1": 0.04674, - "recall_at_3": 0.10758, - "recall_at_5": 0.15367, - "recall_at_10": 0.22767, - "recall_at_50": 0.46444, - "recall_at_100": 0.58917, - "recall_at_1000": 0.58917, - "precision_at_1": 0.14555, - "precision_at_3": 0.13082, - "precision_at_5": 0.11797, - "precision_at_10": 0.0957, - "precision_at_50": 0.0424, - "precision_at_100": 0.02722, - "precision_at_1000": 0.00272, - "mrr_at_1": 0.14555, - "mrr_at_3": 0.21008, - "mrr_at_5": 0.2274, - "mrr_at_10": 0.24265, - "mrr_at_50": 0.25526, - "mrr_at_100": 0.25651, - "mrr_at_1000": 0.25651 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.47955, - "ndcg_at_3": 0.4793, - "ndcg_at_5": 0.48885, - "ndcg_at_10": 0.51447, - "ndcg_at_50": 0.55662, - "ndcg_at_100": 0.55954, - "ndcg_at_1000": 0.55954, - "map_at_1": 0.20651, - "map_at_3": 0.32931, - "map_at_5": 0.38031, - "map_at_10": 0.42872, - "map_at_50": 0.45346, - "map_at_100": 0.45405, - "map_at_1000": 0.45405, - "recall_at_1": 0.20651, - "recall_at_3": 0.38318, - "recall_at_5": 0.47148, - "recall_at_10": 0.57298, - "recall_at_50": 0.68246, - "recall_at_100": 0.69414, - "recall_at_1000": 0.69414, - "precision_at_1": 0.47955, - "precision_at_3": 0.36266, - "precision_at_5": 0.29975, - "precision_at_10": 0.20551, - "precision_at_50": 0.05237, - "precision_at_100": 0.02666, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.47893, - "mrr_at_3": 0.56671, - "mrr_at_5": 0.57935, - "mrr_at_10": 0.5863, - "mrr_at_50": 0.58874, - "mrr_at_100": 0.58883, - "mrr_at_1000": 0.58883 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.55578, - "ndcg_at_3": 0.52017, - "ndcg_at_5": 0.50989, - "ndcg_at_10": 0.53315, - "ndcg_at_50": 0.61481, - "ndcg_at_100": 0.62271, - "ndcg_at_1000": 0.62271, - "map_at_1": 0.15152, - "map_at_3": 0.284, - "map_at_5": 0.3505, - "map_at_10": 0.42236, - "map_at_50": 0.47011, - "map_at_100": 0.47201, - "map_at_1000": 0.47201, - "recall_at_1": 0.15152, - "recall_at_3": 0.32221, - "recall_at_5": 0.42598, - "recall_at_10": 0.56867, - "recall_at_50": 0.77026, - "recall_at_100": 0.79896, - "recall_at_1000": 0.79896, - "precision_at_1": 0.55578, - "precision_at_3": 0.45793, - "precision_at_5": 0.39196, - "precision_at_10": 0.28289, - "precision_at_50": 0.08096, - "precision_at_100": 0.04196, - "precision_at_1000": 0.0042, - "mrr_at_1": 0.55578, - "mrr_at_3": 0.6366, - "mrr_at_5": 0.65034, - "mrr_at_10": 0.65823, - "mrr_at_50": 0.66131, - "mrr_at_100": 0.66144, - "mrr_at_1000": 0.66144 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.15688, - "ndcg_at_3": 0.14421, - "ndcg_at_5": 0.14438, - "ndcg_at_10": 0.16543, - "ndcg_at_50": 0.28222, - "ndcg_at_100": 0.32544, - "ndcg_at_1000": 0.32544, - "map_at_1": 0.0315, - "map_at_3": 0.05881, - "map_at_5": 0.07347, - "map_at_10": 0.09225, - "map_at_50": 0.13003, - "map_at_100": 0.1388, - "map_at_1000": 0.1388, - "recall_at_1": 0.0315, - "recall_at_3": 0.07879, - "recall_at_5": 0.11823, - "recall_at_10": 0.19074, - "recall_at_50": 0.49696, - "recall_at_100": 0.64853, - "recall_at_1000": 0.64853, - "precision_at_1": 0.15688, - "precision_at_3": 0.13376, - "precision_at_5": 0.12433, - "precision_at_10": 0.10309, - "precision_at_50": 0.0565, - "precision_at_100": 0.03687, - "precision_at_1000": 0.00369, - "mrr_at_1": 0.15742, - "mrr_at_3": 0.22421, - "mrr_at_5": 0.24806, - "mrr_at_10": 0.26658, - "mrr_at_50": 0.28217, - "mrr_at_100": 0.28293, - "mrr_at_1000": 0.28293 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.50088, - "ndcg_at_3": 0.4641, - "ndcg_at_5": 0.47916, - "ndcg_at_10": 0.51433, - "ndcg_at_50": 0.55967, - "ndcg_at_100": 0.56386, - "ndcg_at_1000": 0.56386, - "map_at_1": 0.21874, - "map_at_3": 0.34529, - "map_at_5": 0.38849, - "map_at_10": 0.42189, - "map_at_50": 0.44129, - "map_at_100": 0.442, - "map_at_1000": 0.442, - "recall_at_1": 0.21874, - "recall_at_3": 0.39717, - "recall_at_5": 0.4841, - "recall_at_10": 0.58114, - "recall_at_50": 0.7177, - "recall_at_100": 0.73622, - "recall_at_1000": 0.73622, - "precision_at_1": 0.50088, - "precision_at_3": 0.34739, - "precision_at_5": 0.26971, - "precision_at_10": 0.17083, - "precision_at_50": 0.0437, - "precision_at_100": 0.02243, - "precision_at_1000": 0.00224, - "mrr_at_1": 0.50146, - "mrr_at_3": 0.58172, - "mrr_at_5": 0.59531, - "mrr_at_10": 0.60291, - "mrr_at_50": 0.60676, - "mrr_at_100": 0.60689, - "mrr_at_1000": 0.60689 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.16898, - "ndcg_at_3": 0.14745, - "ndcg_at_5": 0.1499, - "ndcg_at_10": 0.17307, - "ndcg_at_50": 0.2495, - "ndcg_at_100": 0.2737, - "ndcg_at_1000": 0.2737, - "map_at_1": 0.04718, - "map_at_3": 0.07437, - "map_at_5": 0.08995, - "map_at_10": 0.10944, - "map_at_50": 0.13484, - "map_at_100": 0.13881, - "map_at_1000": 0.13881, - "recall_at_1": 0.04718, - "recall_at_3": 0.09291, - "recall_at_5": 0.1306, - "recall_at_10": 0.20083, - "recall_at_50": 0.4098, - "recall_at_100": 0.50099, - "recall_at_1000": 0.50099, - "precision_at_1": 0.16898, - "precision_at_3": 0.12687, - "precision_at_5": 0.11468, - "precision_at_10": 0.09258, - "precision_at_50": 0.03977, - "precision_at_100": 0.02421, - "precision_at_1000": 0.00242, - "mrr_at_1": 0.16898, - "mrr_at_3": 0.22004, - "mrr_at_5": 0.2386, - "mrr_at_10": 0.2544, - "mrr_at_50": 0.26553, - "mrr_at_100": 0.26654, - "mrr_at_1000": 0.26654 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.42839, - "ndcg_at_3": 0.45779, - "ndcg_at_5": 0.47732, - "ndcg_at_10": 0.50465, - "ndcg_at_50": 0.53282, - "ndcg_at_100": 0.5362, - "ndcg_at_1000": 0.5362, - "map_at_1": 0.26226, - "map_at_3": 0.38258, - "map_at_5": 0.41733, - "map_at_10": 0.44436, - "map_at_50": 0.45742, - "map_at_100": 0.45778, - "map_at_1000": 0.45778, - "recall_at_1": 0.26226, - "recall_at_3": 0.44276, - "recall_at_5": 0.51769, - "recall_at_10": 0.59496, - "recall_at_50": 0.68157, - "recall_at_100": 0.70071, - "recall_at_1000": 0.70071, - "precision_at_1": 0.42839, - "precision_at_3": 0.28623, - "precision_at_5": 0.21565, - "precision_at_10": 0.13508, - "precision_at_50": 0.03292, - "precision_at_100": 0.01676, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.42839, - "mrr_at_3": 0.49968, - "mrr_at_5": 0.51013, - "mrr_at_10": 0.51545, - "mrr_at_50": 0.51801, - "mrr_at_100": 0.51826, - "mrr_at_1000": 0.51826 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.31864, - "ndcg_at_3": 0.32005, - "ndcg_at_5": 0.33332, - "ndcg_at_10": 0.37444, - "ndcg_at_50": 0.43892, - "ndcg_at_100": 0.45632, - "ndcg_at_1000": 0.45632, - "map_at_1": 0.16604, - "map_at_3": 0.24238, - "map_at_5": 0.26283, - "map_at_10": 0.28654, - "map_at_50": 0.30759, - "map_at_100": 0.31026, - "map_at_1000": 0.31026, - "recall_at_1": 0.16604, - "recall_at_3": 0.31087, - "recall_at_5": 0.36576, - "recall_at_10": 0.46861, - "recall_at_50": 0.67545, - "recall_at_100": 0.7504, - "recall_at_1000": 0.7504, - "precision_at_1": 0.31864, - "precision_at_3": 0.21501, - "precision_at_5": 0.16117, - "precision_at_10": 0.11066, - "precision_at_50": 0.03549, - "precision_at_100": 0.02027, - "precision_at_1000": 0.00203, - "mrr_at_1": 0.31864, - "mrr_at_3": 0.41175, - "mrr_at_5": 0.42685, - "mrr_at_10": 0.44159, - "mrr_at_50": 0.44997, - "mrr_at_100": 0.4506, - "mrr_at_1000": 0.4506 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.62362, - "ndcg_at_3": 0.58481, - "ndcg_at_5": 0.59722, - "ndcg_at_10": 0.62028, - "ndcg_at_50": 0.64052, - "ndcg_at_100": 0.64221, - "ndcg_at_1000": 0.64221, - "map_at_1": 0.36808, - "map_at_3": 0.48889, - "map_at_5": 0.52187, - "map_at_10": 0.54465, - "map_at_50": 0.55384, - "map_at_100": 0.55411, - "map_at_1000": 0.55411, - "recall_at_1": 0.36808, - "recall_at_3": 0.53838, - "recall_at_5": 0.60705, - "recall_at_10": 0.66864, - "recall_at_50": 0.72833, - "recall_at_100": 0.73595, - "recall_at_1000": 0.73595, - "precision_at_1": 0.62362, - "precision_at_3": 0.36209, - "precision_at_5": 0.26034, - "precision_at_10": 0.1535, - "precision_at_50": 0.03497, - "precision_at_100": 0.01771, - "precision_at_1000": 0.00177, - "mrr_at_1": 0.6242, - "mrr_at_3": 0.69157, - "mrr_at_5": 0.70066, - "mrr_at_10": 0.70437, - "mrr_at_50": 0.70588, - "mrr_at_100": 0.70594, - "mrr_at_1000": 0.70594 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.45465, - "ndcg_at_3": 0.41113, - "ndcg_at_5": 0.41364, - "ndcg_at_10": 0.44153, - "ndcg_at_50": 0.47957, - "ndcg_at_100": 0.48124, - "ndcg_at_1000": 0.48124, - "map_at_1": 0.18995, - "map_at_3": 0.28535, - "map_at_5": 0.31899, - "map_at_10": 0.34768, - "map_at_50": 0.36423, - "map_at_100": 0.36449, - "map_at_1000": 0.36449, - "recall_at_1": 0.18995, - "recall_at_3": 0.33821, - "recall_at_5": 0.40649, - "recall_at_10": 0.49024, - "recall_at_50": 0.60181, - "recall_at_100": 0.60959, - "recall_at_1000": 0.60959, - "precision_at_1": 0.45465, - "precision_at_3": 0.30926, - "precision_at_5": 0.23847, - "precision_at_10": 0.15355, - "precision_at_50": 0.03899, - "precision_at_100": 0.0197, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.45465, - "mrr_at_3": 0.53534, - "mrr_at_5": 0.54727, - "mrr_at_10": 0.55374, - "mrr_at_50": 0.55703, - "mrr_at_100": 0.55712, - "mrr_at_1000": 0.55712 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.25431, - "ndcg_at_3": 0.25453, - "ndcg_at_5": 0.26401, - "ndcg_at_10": 0.29463, - "ndcg_at_50": 0.3802, - "ndcg_at_100": 0.40684, - "ndcg_at_1000": 0.40684, - "map_at_1": 0.11348, - "map_at_3": 0.17097, - "map_at_5": 0.19227, - "map_at_10": 0.21634, - "map_at_50": 0.24705, - "map_at_100": 0.25191, - "map_at_1000": 0.25191, - "recall_at_1": 0.11348, - "recall_at_3": 0.21043, - "recall_at_5": 0.26474, - "recall_at_10": 0.35256, - "recall_at_50": 0.59638, - "recall_at_100": 0.70294, - "recall_at_1000": 0.70294, - "precision_at_1": 0.25431, - "precision_at_3": 0.18974, - "precision_at_5": 0.15781, - "precision_at_10": 0.11777, - "precision_at_50": 0.04576, - "precision_at_100": 0.02734, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.2549, - "mrr_at_3": 0.33007, - "mrr_at_5": 0.35152, - "mrr_at_10": 0.36715, - "mrr_at_50": 0.37703, - "mrr_at_100": 0.37776, - "mrr_at_1000": 0.37776 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.4751, - "ndcg_at_3": 0.45664, - "ndcg_at_5": 0.45557, - "ndcg_at_10": 0.47567, - "ndcg_at_50": 0.50295, - "ndcg_at_100": 0.50407, - "ndcg_at_1000": 0.50407, - "map_at_1": 0.23357, - "map_at_3": 0.32809, - "map_at_5": 0.35989, - "map_at_10": 0.38965, - "map_at_50": 0.40353, - "map_at_100": 0.40371, - "map_at_1000": 0.40371, - "recall_at_1": 0.23357, - "recall_at_3": 0.38246, - "recall_at_5": 0.44434, - "recall_at_10": 0.52042, - "recall_at_50": 0.59378, - "recall_at_100": 0.59865, - "recall_at_1000": 0.59865, - "precision_at_1": 0.4751, - "precision_at_3": 0.3183, - "precision_at_5": 0.24429, - "precision_at_10": 0.15776, - "precision_at_50": 0.03821, - "precision_at_100": 0.01927, - "precision_at_1000": 0.00193, - "mrr_at_1": 0.4751, - "mrr_at_3": 0.5618, - "mrr_at_5": 0.57314, - "mrr_at_10": 0.57862, - "mrr_at_50": 0.58051, - "mrr_at_100": 0.58056, - "mrr_at_1000": 0.58056 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.5289, - "ndcg_at_3": 0.47386, - "ndcg_at_5": 0.47942, - "ndcg_at_10": 0.53378, - "ndcg_at_50": 0.6161, - "ndcg_at_100": 0.62546, - "ndcg_at_1000": 0.62546, - "map_at_1": 0.16541, - "map_at_3": 0.29927, - "map_at_5": 0.35833, - "map_at_10": 0.41797, - "map_at_50": 0.45815, - "map_at_100": 0.4598, - "map_at_1000": 0.4598, - "recall_at_1": 0.16541, - "recall_at_3": 0.34192, - "recall_at_5": 0.4543, - "recall_at_10": 0.6112, - "recall_at_50": 0.84296, - "recall_at_100": 0.88521, - "recall_at_1000": 0.88521, - "precision_at_1": 0.5289, - "precision_at_3": 0.40366, - "precision_at_5": 0.3341, - "precision_at_10": 0.23526, - "precision_at_50": 0.06671, - "precision_at_100": 0.0346, - "precision_at_1000": 0.00346, - "mrr_at_1": 0.5289, - "mrr_at_3": 0.60549, - "mrr_at_5": 0.62312, - "mrr_at_10": 0.63479, - "mrr_at_50": 0.63984, - "mrr_at_100": 0.64007, - "mrr_at_1000": 0.64007 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.52853, - "ndcg_at_3": 0.49079, - "ndcg_at_5": 0.47148, - "ndcg_at_10": 0.51903, - "ndcg_at_50": 0.60905, - "ndcg_at_100": 0.62201, - "ndcg_at_1000": 0.62201, - "map_at_1": 0.14968, - "map_at_3": 0.28377, - "map_at_5": 0.33532, - "map_at_10": 0.40411, - "map_at_50": 0.44982, - "map_at_100": 0.45247, - "map_at_1000": 0.45247, - "recall_at_1": 0.14968, - "recall_at_3": 0.32302, - "recall_at_5": 0.41342, - "recall_at_10": 0.57611, - "recall_at_50": 0.82482, - "recall_at_100": 0.87848, - "recall_at_1000": 0.87848, - "precision_at_1": 0.52853, - "precision_at_3": 0.43243, - "precision_at_5": 0.34835, - "precision_at_10": 0.25315, - "precision_at_50": 0.07375, - "precision_at_100": 0.03889, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.53153, - "mrr_at_3": 0.60961, - "mrr_at_5": 0.62297, - "mrr_at_10": 0.63434, - "mrr_at_50": 0.63943, - "mrr_at_100": 0.63969, - "mrr_at_1000": 0.63969 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.5858, - "ndcg_at_3": 0.53012, - "ndcg_at_5": 0.52004, - "ndcg_at_10": 0.55672, - "ndcg_at_50": 0.63236, - "ndcg_at_100": 0.64151, - "ndcg_at_1000": 0.64151, - "map_at_1": 0.17325, - "map_at_3": 0.318, - "map_at_5": 0.38223, - "map_at_10": 0.44921, - "map_at_50": 0.49191, - "map_at_100": 0.49352, - "map_at_1000": 0.49352, - "recall_at_1": 0.17325, - "recall_at_3": 0.35535, - "recall_at_5": 0.45704, - "recall_at_10": 0.6027, - "recall_at_50": 0.8014, - "recall_at_100": 0.84086, - "recall_at_1000": 0.84086, - "precision_at_1": 0.5858, - "precision_at_3": 0.45562, - "precision_at_5": 0.37751, - "precision_at_10": 0.26509, - "precision_at_50": 0.0726, - "precision_at_100": 0.03754, - "precision_at_1000": 0.00375, - "mrr_at_1": 0.59172, - "mrr_at_3": 0.66124, - "mrr_at_5": 0.67189, - "mrr_at_10": 0.67893, - "mrr_at_50": 0.68222, - "mrr_at_100": 0.6826, - "mrr_at_1000": 0.6826 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.59292, - "ndcg_at_3": 0.53926, - "ndcg_at_5": 0.54166, - "ndcg_at_10": 0.59179, - "ndcg_at_50": 0.674, - "ndcg_at_100": 0.68268, - "ndcg_at_1000": 0.68268, - "map_at_1": 0.19761, - "map_at_3": 0.3581, - "map_at_5": 0.4193, - "map_at_10": 0.48185, - "map_at_50": 0.5243, - "map_at_100": 0.52589, - "map_at_1000": 0.52589, - "recall_at_1": 0.19761, - "recall_at_3": 0.40389, - "recall_at_5": 0.50927, - "recall_at_10": 0.65283, - "recall_at_50": 0.8824, - "recall_at_100": 0.92045, - "recall_at_1000": 0.92045, - "precision_at_1": 0.59292, - "precision_at_3": 0.45821, - "precision_at_5": 0.36755, - "precision_at_10": 0.25369, - "precision_at_50": 0.06985, - "precision_at_100": 0.03614, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.59587, - "mrr_at_3": 0.67896, - "mrr_at_5": 0.69017, - "mrr_at_10": 0.69687, - "mrr_at_50": 0.7014, - "mrr_at_100": 0.70168, - "mrr_at_1000": 0.70168 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.73913, - "ndcg_at_3": 0.67529, - "ndcg_at_5": 0.66906, - "ndcg_at_10": 0.71051, - "ndcg_at_50": 0.78025, - "ndcg_at_100": 0.78316, - "ndcg_at_1000": 0.78316, - "map_at_1": 0.26731, - "map_at_3": 0.45616, - "map_at_5": 0.5339, - "map_at_10": 0.60348, - "map_at_50": 0.6464, - "map_at_100": 0.64704, - "map_at_1000": 0.64704, - "recall_at_1": 0.26731, - "recall_at_3": 0.49813, - "recall_at_5": 0.61832, - "recall_at_10": 0.75564, - "recall_at_50": 0.93798, - "recall_at_100": 0.94917, - "recall_at_1000": 0.94917, - "precision_at_1": 0.73913, - "precision_at_3": 0.55163, - "precision_at_5": 0.44674, - "precision_at_10": 0.29538, - "precision_at_50": 0.07582, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.73913, - "mrr_at_3": 0.80888, - "mrr_at_5": 0.81839, - "mrr_at_10": 0.82152, - "mrr_at_50": 0.82298, - "mrr_at_100": 0.82298, - "mrr_at_1000": 0.82298 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.5744, - "ndcg_at_3": 0.53921, - "ndcg_at_5": 0.54779, - "ndcg_at_10": 0.5912, - "ndcg_at_50": 0.64553, - "ndcg_at_100": 0.65336, - "ndcg_at_1000": 0.65336, - "map_at_1": 0.25871, - "map_at_3": 0.40677, - "map_at_5": 0.45842, - "map_at_10": 0.50322, - "map_at_50": 0.52741, - "map_at_100": 0.52886, - "map_at_1000": 0.52886, - "recall_at_1": 0.25871, - "recall_at_3": 0.4535, - "recall_at_5": 0.54396, - "recall_at_10": 0.65732, - "recall_at_50": 0.81671, - "recall_at_100": 0.85085, - "recall_at_1000": 0.85085, - "precision_at_1": 0.5744, - "precision_at_3": 0.3998, - "precision_at_5": 0.31012, - "precision_at_10": 0.20298, - "precision_at_50": 0.05286, - "precision_at_100": 0.0275, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.5744, - "mrr_at_3": 0.64831, - "mrr_at_5": 0.66052, - "mrr_at_10": 0.66676, - "mrr_at_50": 0.6708, - "mrr_at_100": 0.6711, - "mrr_at_1000": 0.6711 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.62817, - "ndcg_at_3": 0.59557, - "ndcg_at_5": 0.60479, - "ndcg_at_10": 0.65034, - "ndcg_at_50": 0.70123, - "ndcg_at_100": 0.7038, - "ndcg_at_1000": 0.7038, - "map_at_1": 0.2963, - "map_at_3": 0.46761, - "map_at_5": 0.51214, - "map_at_10": 0.55177, - "map_at_50": 0.57506, - "map_at_100": 0.57555, - "map_at_1000": 0.57555, - "recall_at_1": 0.2963, - "recall_at_3": 0.53919, - "recall_at_5": 0.6191, - "recall_at_10": 0.72935, - "recall_at_50": 0.8856, - "recall_at_100": 0.89625, - "recall_at_1000": 0.89625, - "precision_at_1": 0.62817, - "precision_at_3": 0.43099, - "precision_at_5": 0.31831, - "precision_at_10": 0.19746, - "precision_at_50": 0.04907, - "precision_at_100": 0.0249, - "precision_at_1000": 0.00249, - "mrr_at_1": 0.62817, - "mrr_at_3": 0.72207, - "mrr_at_5": 0.72812, - "mrr_at_10": 0.73418, - "mrr_at_50": 0.73756, - "mrr_at_100": 0.73756, - "mrr_at_1000": 0.73756 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63866, - "ndcg_at_3": 0.57437, - "ndcg_at_5": 0.58871, - "ndcg_at_10": 0.63297, - "ndcg_at_50": 0.68788, - "ndcg_at_100": 0.69116, - "ndcg_at_1000": 0.69116, - "map_at_1": 0.31282, - "map_at_3": 0.4595, - "map_at_5": 0.5036, - "map_at_10": 0.5396, - "map_at_50": 0.56312, - "map_at_100": 0.5638, - "map_at_1000": 0.5638, - "recall_at_1": 0.31282, - "recall_at_3": 0.50902, - "recall_at_5": 0.59479, - "recall_at_10": 0.70389, - "recall_at_50": 0.87109, - "recall_at_100": 0.8843, - "recall_at_1000": 0.8843, - "precision_at_1": 0.63866, - "precision_at_3": 0.40056, - "precision_at_5": 0.29748, - "precision_at_10": 0.18487, - "precision_at_50": 0.04768, - "precision_at_100": 0.02434, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.63866, - "mrr_at_3": 0.70448, - "mrr_at_5": 0.71583, - "mrr_at_10": 0.72218, - "mrr_at_50": 0.7264, - "mrr_at_100": 0.7264, - "mrr_at_1000": 0.7264 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.6586, - "ndcg_at_3": 0.59602, - "ndcg_at_5": 0.60471, - "ndcg_at_10": 0.65193, - "ndcg_at_50": 0.69708, - "ndcg_at_100": 0.70313, - "ndcg_at_1000": 0.70313, - "map_at_1": 0.35717, - "map_at_3": 0.49123, - "map_at_5": 0.5255, - "map_at_10": 0.5611, - "map_at_50": 0.58134, - "map_at_100": 0.58236, - "map_at_1000": 0.58236, - "recall_at_1": 0.35717, - "recall_at_3": 0.53618, - "recall_at_5": 0.60655, - "recall_at_10": 0.71374, - "recall_at_50": 0.84692, - "recall_at_100": 0.87432, - "recall_at_1000": 0.87432, - "precision_at_1": 0.6586, - "precision_at_3": 0.3871, - "precision_at_5": 0.28172, - "precision_at_10": 0.17957, - "precision_at_50": 0.04522, - "precision_at_100": 0.02339, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.66398, - "mrr_at_3": 0.73118, - "mrr_at_5": 0.74274, - "mrr_at_10": 0.74831, - "mrr_at_50": 0.75107, - "mrr_at_100": 0.75125, - "mrr_at_1000": 0.75125 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.45082, - "ndcg_at_3": 0.42249, - "ndcg_at_5": 0.43599, - "ndcg_at_10": 0.48712, - "ndcg_at_50": 0.56305, - "ndcg_at_100": 0.56905, - "ndcg_at_1000": 0.56905, - "map_at_1": 0.18741, - "map_at_3": 0.30039, - "map_at_5": 0.34231, - "map_at_10": 0.38655, - "map_at_50": 0.41824, - "map_at_100": 0.41927, - "map_at_1000": 0.41927, - "recall_at_1": 0.18741, - "recall_at_3": 0.3559, - "recall_at_5": 0.44293, - "recall_at_10": 0.56798, - "recall_at_50": 0.80057, - "recall_at_100": 0.82774, - "recall_at_1000": 0.82774, - "precision_at_1": 0.45082, - "precision_at_3": 0.32605, - "precision_at_5": 0.2623, - "precision_at_10": 0.18005, - "precision_at_50": 0.05158, - "precision_at_100": 0.02658, - "precision_at_1000": 0.00266, - "mrr_at_1": 0.45082, - "mrr_at_3": 0.53825, - "mrr_at_5": 0.55478, - "mrr_at_10": 0.56342, - "mrr_at_50": 0.57065, - "mrr_at_100": 0.57092, - "mrr_at_1000": 0.57092 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.54324, - "ndcg_at_3": 0.54084, - "ndcg_at_5": 0.57751, - "ndcg_at_10": 0.6267, - "ndcg_at_50": 0.68048, - "ndcg_at_100": 0.68429, - "ndcg_at_1000": 0.68429, - "map_at_1": 0.28272, - "map_at_3": 0.4384, - "map_at_5": 0.48994, - "map_at_10": 0.53094, - "map_at_50": 0.55229, - "map_at_100": 0.5529, - "map_at_1000": 0.5529, - "recall_at_1": 0.28272, - "recall_at_3": 0.52573, - "recall_at_5": 0.63806, - "recall_at_10": 0.75003, - "recall_at_50": 0.93059, - "recall_at_100": 0.94937, - "recall_at_1000": 0.94937, - "precision_at_1": 0.54324, - "precision_at_3": 0.36126, - "precision_at_5": 0.28162, - "precision_at_10": 0.17784, - "precision_at_50": 0.0447, - "precision_at_100": 0.02276, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.54054, - "mrr_at_3": 0.64279, - "mrr_at_5": 0.65914, - "mrr_at_10": 0.66389, - "mrr_at_50": 0.66896, - "mrr_at_100": 0.66909, - "mrr_at_1000": 0.66909 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.42331, - "ndcg_at_3": 0.45358, - "ndcg_at_5": 0.49196, - "ndcg_at_10": 0.54682, - "ndcg_at_50": 0.59743, - "ndcg_at_100": 0.60435, - "ndcg_at_1000": 0.60435, - "map_at_1": 0.26368, - "map_at_3": 0.38291, - "map_at_5": 0.41985, - "map_at_10": 0.45362, - "map_at_50": 0.4712, - "map_at_100": 0.47213, - "map_at_1000": 0.47213, - "recall_at_1": 0.26368, - "recall_at_3": 0.47102, - "recall_at_5": 0.57212, - "recall_at_10": 0.70851, - "recall_at_50": 0.88839, - "recall_at_100": 0.92413, - "recall_at_1000": 0.92413, - "precision_at_1": 0.42331, - "precision_at_3": 0.27812, - "precision_at_5": 0.21166, - "precision_at_10": 0.13773, - "precision_at_50": 0.03534, - "precision_at_100": 0.01834, - "precision_at_1000": 0.00183, - "mrr_at_1": 0.42331, - "mrr_at_3": 0.51943, - "mrr_at_5": 0.53921, - "mrr_at_10": 0.55177, - "mrr_at_50": 0.55754, - "mrr_at_100": 0.55781, - "mrr_at_1000": 0.55781 - }, - "gpt3": { - "ndcg_at_1": 0.35015, - "ndcg_at_3": 0.43502, - "ndcg_at_5": 0.49111, - "ndcg_at_10": 0.53173, - "ndcg_at_50": 0.57128, - "ndcg_at_100": 0.58147, - "ndcg_at_1000": 0.58147, - "map_at_1": 0.2777, - "map_at_3": 0.38547, - "map_at_5": 0.42244, - "map_at_10": 0.44231, - "map_at_50": 0.45437, - "map_at_100": 0.45556, - "map_at_1000": 0.45556, - "recall_at_1": 0.2777, - "recall_at_3": 0.49827, - "recall_at_5": 0.62092, - "recall_at_10": 0.73244, - "recall_at_50": 0.88106, - "recall_at_100": 0.93793, - "recall_at_1000": 0.93793, - "precision_at_1": 0.35015, - "precision_at_3": 0.22156, - "precision_at_5": 0.17211, - "precision_at_10": 0.10445, - "precision_at_50": 0.02611, - "precision_at_100": 0.01386, - "precision_at_1000": 0.00139, - "mrr_at_1": 0.35015, - "mrr_at_3": 0.4634, - "mrr_at_5": 0.48922, - "mrr_at_10": 0.50179, - "mrr_at_50": 0.50819, - "mrr_at_100": 0.5088, - "mrr_at_1000": 0.5088 - }, - "llm-survey": { - "ndcg_at_1": 0.46779, - "ndcg_at_3": 0.43504, - "ndcg_at_5": 0.45155, - "ndcg_at_10": 0.4956, - "ndcg_at_50": 0.55814, - "ndcg_at_100": 0.56894, - "ndcg_at_1000": 0.56894, - "map_at_1": 0.2163, - "map_at_3": 0.33554, - "map_at_5": 0.37189, - "map_at_10": 0.40718, - "map_at_50": 0.43135, - "map_at_100": 0.43297, - "map_at_1000": 0.43297, - "recall_at_1": 0.2163, - "recall_at_3": 0.38839, - "recall_at_5": 0.46331, - "recall_at_10": 0.57583, - "recall_at_50": 0.78304, - "recall_at_100": 0.83714, - "recall_at_1000": 0.83714, - "precision_at_1": 0.46779, - "precision_at_3": 0.31839, - "precision_at_5": 0.24146, - "precision_at_10": 0.1577, - "precision_at_50": 0.04291, - "precision_at_100": 0.02261, - "precision_at_1000": 0.00226, - "mrr_at_1": 0.46779, - "mrr_at_3": 0.54202, - "mrr_at_5": 0.55294, - "mrr_at_10": 0.56256, - "mrr_at_50": 0.56919, - "mrr_at_100": 0.5696, - "mrr_at_1000": 0.5696 - }, - "gemini": { - "ndcg_at_1": 0.38153, - "ndcg_at_3": 0.50234, - "ndcg_at_5": 0.52688, - "ndcg_at_10": 0.55564, - "ndcg_at_50": 0.60016, - "ndcg_at_100": 0.60408, - "ndcg_at_1000": 0.60408, - "map_at_1": 0.38153, - "map_at_3": 0.47323, - "map_at_5": 0.48668, - "map_at_10": 0.49865, - "map_at_50": 0.50865, - "map_at_100": 0.509, - "map_at_1000": 0.509, - "recall_at_1": 0.38153, - "recall_at_3": 0.58635, - "recall_at_5": 0.64659, - "recall_at_10": 0.73494, - "recall_at_50": 0.93173, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.38153, - "precision_at_3": 0.19545, - "precision_at_5": 0.12932, - "precision_at_10": 0.07349, - "precision_at_50": 0.01863, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.38153, - "mrr_at_3": 0.47323, - "mrr_at_5": 0.48688, - "mrr_at_10": 0.49886, - "mrr_at_50": 0.50887, - "mrr_at_100": 0.50922, - "mrr_at_1000": 0.50922 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.80341, - "ndcg_at_3": 0.73624, - "ndcg_at_5": 0.74754, - "ndcg_at_10": 0.78874, - "ndcg_at_50": 0.81188, - "ndcg_at_100": 0.81273, - "ndcg_at_1000": 0.81273, - "map_at_1": 0.33562, - "map_at_3": 0.54696, - "map_at_5": 0.63726, - "map_at_10": 0.70577, - "map_at_50": 0.72084, - "map_at_100": 0.72098, - "map_at_1000": 0.72098, - "recall_at_1": 0.33562, - "recall_at_3": 0.58738, - "recall_at_5": 0.71968, - "recall_at_10": 0.84557, - "recall_at_50": 0.91014, - "recall_at_100": 0.91442, - "recall_at_1000": 0.91442, - "precision_at_1": 0.80341, - "precision_at_3": 0.5692, - "precision_at_5": 0.4554, - "precision_at_10": 0.2875, - "precision_at_50": 0.06252, - "precision_at_100": 0.03135, - "precision_at_1000": 0.00314, - "mrr_at_1": 0.80396, - "mrr_at_3": 0.85251, - "mrr_at_5": 0.85747, - "mrr_at_10": 0.85892, - "mrr_at_50": 0.85978, - "mrr_at_100": 0.85981, - "mrr_at_1000": 0.85981 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.31705, - "ndcg_at_3": 0.29044, - "ndcg_at_5": 0.29483, - "ndcg_at_10": 0.30853, - "ndcg_at_50": 0.32667, - "ndcg_at_100": 0.32855, - "ndcg_at_1000": 0.32855, - "map_at_1": 0.12449, - "map_at_3": 0.19253, - "map_at_5": 0.2252, - "map_at_10": 0.25329, - "map_at_50": 0.26359, - "map_at_100": 0.26386, - "map_at_1000": 0.26386, - "recall_at_1": 0.12449, - "recall_at_3": 0.21772, - "recall_at_5": 0.27377, - "recall_at_10": 0.33267, - "recall_at_50": 0.38282, - "recall_at_100": 0.39219, - "recall_at_1000": 0.39219, - "precision_at_1": 0.31705, - "precision_at_3": 0.2295, - "precision_at_5": 0.18956, - "precision_at_10": 0.12543, - "precision_at_50": 0.02946, - "precision_at_100": 0.01494, - "precision_at_1000": 0.00149, - "mrr_at_1": 0.31705, - "mrr_at_3": 0.36258, - "mrr_at_5": 0.37052, - "mrr_at_10": 0.37398, - "mrr_at_50": 0.37573, - "mrr_at_100": 0.37582, - "mrr_at_1000": 0.37582 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.56511, - "ndcg_at_3": 0.51431, - "ndcg_at_5": 0.50405, - "ndcg_at_10": 0.51468, - "ndcg_at_50": 0.53717, - "ndcg_at_100": 0.5385, - "ndcg_at_1000": 0.5385, - "map_at_1": 0.16795, - "map_at_3": 0.29855, - "map_at_5": 0.36242, - "map_at_10": 0.4135, - "map_at_50": 0.42812, - "map_at_100": 0.42837, - "map_at_1000": 0.42837, - "recall_at_1": 0.16795, - "recall_at_3": 0.33875, - "recall_at_5": 0.43642, - "recall_at_10": 0.52914, - "recall_at_50": 0.58375, - "recall_at_100": 0.58917, - "recall_at_1000": 0.58917, - "precision_at_1": 0.56511, - "precision_at_3": 0.44588, - "precision_at_5": 0.37136, - "precision_at_10": 0.23954, - "precision_at_50": 0.05404, - "precision_at_100": 0.02722, - "precision_at_1000": 0.00272, - "mrr_at_1": 0.56511, - "mrr_at_3": 0.64899, - "mrr_at_5": 0.6578, - "mrr_at_10": 0.66121, - "mrr_at_50": 0.66214, - "mrr_at_100": 0.66217, - "mrr_at_1000": 0.66217 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.58674, - "ndcg_at_3": 0.5612, - "ndcg_at_5": 0.56331, - "ndcg_at_10": 0.57972, - "ndcg_at_50": 0.60779, - "ndcg_at_100": 0.60888, - "ndcg_at_1000": 0.60888, - "map_at_1": 0.2497, - "map_at_3": 0.3889, - "map_at_5": 0.44882, - "map_at_10": 0.50079, - "map_at_50": 0.51925, - "map_at_100": 0.51948, - "map_at_1000": 0.51948, - "recall_at_1": 0.2497, - "recall_at_3": 0.4328, - "recall_at_5": 0.5236, - "recall_at_10": 0.61756, - "recall_at_50": 0.68941, - "recall_at_100": 0.69414, - "recall_at_1000": 0.69414, - "precision_at_1": 0.58674, - "precision_at_3": 0.42689, - "precision_at_5": 0.34734, - "precision_at_10": 0.228, - "precision_at_50": 0.053, - "precision_at_100": 0.02666, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.58674, - "mrr_at_3": 0.65324, - "mrr_at_5": 0.66192, - "mrr_at_10": 0.66569, - "mrr_at_50": 0.6673, - "mrr_at_100": 0.66733, - "mrr_at_1000": 0.66733 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.72527, - "ndcg_at_3": 0.68107, - "ndcg_at_5": 0.6677, - "ndcg_at_10": 0.68418, - "ndcg_at_50": 0.72025, - "ndcg_at_100": 0.7219, - "ndcg_at_1000": 0.7219, - "map_at_1": 0.19638, - "map_at_3": 0.38293, - "map_at_5": 0.48447, - "map_at_10": 0.58593, - "map_at_50": 0.61428, - "map_at_100": 0.6147, - "map_at_1000": 0.6147, - "recall_at_1": 0.19638, - "recall_at_3": 0.41549, - "recall_at_5": 0.54983, - "recall_at_10": 0.70754, - "recall_at_50": 0.79274, - "recall_at_100": 0.79896, - "recall_at_1000": 0.79896, - "precision_at_1": 0.72527, - "precision_at_3": 0.606, - "precision_at_5": 0.52268, - "precision_at_10": 0.36373, - "precision_at_50": 0.08334, - "precision_at_100": 0.04196, - "precision_at_1000": 0.0042, - "mrr_at_1": 0.72543, - "mrr_at_3": 0.78515, - "mrr_at_5": 0.79187, - "mrr_at_10": 0.79486, - "mrr_at_50": 0.79566, - "mrr_at_100": 0.79569, - "mrr_at_1000": 0.79569 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.63874, - "ndcg_at_3": 0.57081, - "ndcg_at_5": 0.5354, - "ndcg_at_10": 0.54039, - "ndcg_at_50": 0.58242, - "ndcg_at_100": 0.58503, - "ndcg_at_1000": 0.58503, - "map_at_1": 0.13299, - "map_at_3": 0.27401, - "map_at_5": 0.34958, - "map_at_10": 0.41914, - "map_at_50": 0.44552, - "map_at_100": 0.44614, - "map_at_1000": 0.44614, - "recall_at_1": 0.13299, - "recall_at_3": 0.30551, - "recall_at_5": 0.41334, - "recall_at_10": 0.53699, - "recall_at_50": 0.63893, - "recall_at_100": 0.64853, - "recall_at_1000": 0.64853, - "precision_at_1": 0.63874, - "precision_at_3": 0.53237, - "precision_at_5": 0.45059, - "precision_at_10": 0.30374, - "precision_at_50": 0.07279, - "precision_at_100": 0.03687, - "precision_at_1000": 0.00369, - "mrr_at_1": 0.63821, - "mrr_at_3": 0.71603, - "mrr_at_5": 0.72443, - "mrr_at_10": 0.72801, - "mrr_at_50": 0.72954, - "mrr_at_100": 0.72958, - "mrr_at_1000": 0.72958 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.56063, - "ndcg_at_3": 0.52506, - "ndcg_at_5": 0.53851, - "ndcg_at_10": 0.57426, - "ndcg_at_50": 0.60349, - "ndcg_at_100": 0.60453, - "ndcg_at_1000": 0.60453, - "map_at_1": 0.2411, - "map_at_3": 0.38832, - "map_at_5": 0.44005, - "map_at_10": 0.47987, - "map_at_50": 0.49373, - "map_at_100": 0.49393, - "map_at_1000": 0.49393, - "recall_at_1": 0.2411, - "recall_at_3": 0.44481, - "recall_at_5": 0.54073, - "recall_at_10": 0.6441, - "recall_at_50": 0.73171, - "recall_at_100": 0.73622, - "recall_at_1000": 0.73622, - "precision_at_1": 0.56063, - "precision_at_3": 0.40129, - "precision_at_5": 0.31037, - "precision_at_10": 0.19385, - "precision_at_50": 0.04457, - "precision_at_100": 0.02243, - "precision_at_1000": 0.00224, - "mrr_at_1": 0.56063, - "mrr_at_3": 0.64167, - "mrr_at_5": 0.65353, - "mrr_at_10": 0.65949, - "mrr_at_50": 0.66173, - "mrr_at_100": 0.66175, - "mrr_at_1000": 0.66175 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.48643, - "ndcg_at_3": 0.42807, - "ndcg_at_5": 0.40953, - "ndcg_at_10": 0.4222, - "ndcg_at_50": 0.44824, - "ndcg_at_100": 0.44972, - "ndcg_at_1000": 0.44972, - "map_at_1": 0.12667, - "map_at_3": 0.22841, - "map_at_5": 0.27638, - "map_at_10": 0.31801, - "map_at_50": 0.33312, - "map_at_100": 0.33341, - "map_at_1000": 0.33341, - "recall_at_1": 0.12667, - "recall_at_3": 0.26497, - "recall_at_5": 0.34463, - "recall_at_10": 0.42915, - "recall_at_50": 0.4952, - "recall_at_100": 0.50099, - "recall_at_1000": 0.50099, - "precision_at_1": 0.48643, - "precision_at_3": 0.38319, - "precision_at_5": 0.3138, - "precision_at_10": 0.2051, - "precision_at_50": 0.04794, - "precision_at_100": 0.02421, - "precision_at_1000": 0.00242, - "mrr_at_1": 0.48643, - "mrr_at_3": 0.57211, - "mrr_at_5": 0.583, - "mrr_at_10": 0.58738, - "mrr_at_50": 0.58866, - "mrr_at_100": 0.58869, - "mrr_at_1000": 0.58869 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.51356, - "ndcg_at_3": 0.52671, - "ndcg_at_5": 0.54072, - "ndcg_at_10": 0.56384, - "ndcg_at_50": 0.58231, - "ndcg_at_100": 0.58404, - "ndcg_at_1000": 0.58404, - "map_at_1": 0.31754, - "map_at_3": 0.44579, - "map_at_5": 0.48252, - "map_at_10": 0.51073, - "map_at_50": 0.52079, - "map_at_100": 0.521, - "map_at_1000": 0.521, - "recall_at_1": 0.31754, - "recall_at_3": 0.49566, - "recall_at_5": 0.56532, - "recall_at_10": 0.6345, - "recall_at_50": 0.69097, - "recall_at_100": 0.70071, - "recall_at_1000": 0.70071, - "precision_at_1": 0.51356, - "precision_at_3": 0.32766, - "precision_at_5": 0.24303, - "precision_at_10": 0.14826, - "precision_at_50": 0.03325, - "precision_at_100": 0.01676, - "precision_at_1000": 0.00168, - "mrr_at_1": 0.51356, - "mrr_at_3": 0.56982, - "mrr_at_5": 0.57664, - "mrr_at_10": 0.58047, - "mrr_at_50": 0.58213, - "mrr_at_100": 0.58226, - "mrr_at_1000": 0.58226 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.74509, - "ndcg_at_3": 0.65195, - "ndcg_at_5": 0.66035, - "ndcg_at_10": 0.68608, - "ndcg_at_50": 0.6969, - "ndcg_at_100": 0.69746, - "ndcg_at_1000": 0.69746, - "map_at_1": 0.38385, - "map_at_3": 0.51914, - "map_at_5": 0.56619, - "map_at_10": 0.59864, - "map_at_50": 0.60519, - "map_at_100": 0.60528, - "map_at_1000": 0.60528, - "recall_at_1": 0.38385, - "recall_at_3": 0.56636, - "recall_at_5": 0.64813, - "recall_at_10": 0.71949, - "recall_at_50": 0.74791, - "recall_at_100": 0.7504, - "recall_at_1000": 0.7504, - "precision_at_1": 0.74509, - "precision_at_3": 0.43597, - "precision_at_5": 0.3215, - "precision_at_10": 0.19023, - "precision_at_50": 0.04041, - "precision_at_100": 0.02027, - "precision_at_1000": 0.00203, - "mrr_at_1": 0.74509, - "mrr_at_3": 0.80137, - "mrr_at_5": 0.80655, - "mrr_at_10": 0.80818, - "mrr_at_50": 0.80858, - "mrr_at_100": 0.80859, - "mrr_at_1000": 0.80859 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.67863, - "ndcg_at_3": 0.63728, - "ndcg_at_5": 0.64542, - "ndcg_at_10": 0.66171, - "ndcg_at_50": 0.67349, - "ndcg_at_100": 0.67448, - "ndcg_at_1000": 0.67448, - "map_at_1": 0.39491, - "map_at_3": 0.53674, - "map_at_5": 0.57215, - "map_at_10": 0.59282, - "map_at_50": 0.5986, - "map_at_100": 0.59876, - "map_at_1000": 0.59876, - "recall_at_1": 0.39491, - "recall_at_3": 0.5826, - "recall_at_5": 0.6474, - "recall_at_10": 0.69636, - "recall_at_50": 0.73149, - "recall_at_100": 0.73595, - "recall_at_1000": 0.73595, - "precision_at_1": 0.67863, - "precision_at_3": 0.40359, - "precision_at_5": 0.28813, - "precision_at_10": 0.16387, - "precision_at_50": 0.03517, - "precision_at_100": 0.01771, - "precision_at_1000": 0.00177, - "mrr_at_1": 0.67863, - "mrr_at_3": 0.73644, - "mrr_at_5": 0.74301, - "mrr_at_10": 0.74528, - "mrr_at_50": 0.74632, - "mrr_at_100": 0.74635, - "mrr_at_1000": 0.74635 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.52744, - "ndcg_at_3": 0.47277, - "ndcg_at_5": 0.47904, - "ndcg_at_10": 0.50449, - "ndcg_at_50": 0.5232, - "ndcg_at_100": 0.52393, - "ndcg_at_1000": 0.52393, - "map_at_1": 0.21416, - "map_at_3": 0.32911, - "map_at_5": 0.37576, - "map_at_10": 0.41013, - "map_at_50": 0.41929, - "map_at_100": 0.41939, - "map_at_1000": 0.41939, - "recall_at_1": 0.21416, - "recall_at_3": 0.37777, - "recall_at_5": 0.46603, - "recall_at_10": 0.55104, - "recall_at_50": 0.60596, - "recall_at_100": 0.60959, - "recall_at_1000": 0.60959, - "precision_at_1": 0.52744, - "precision_at_3": 0.36299, - "precision_at_5": 0.28585, - "precision_at_10": 0.17701, - "precision_at_50": 0.03924, - "precision_at_100": 0.0197, - "precision_at_1000": 0.00197, - "mrr_at_1": 0.52744, - "mrr_at_3": 0.60216, - "mrr_at_5": 0.61316, - "mrr_at_10": 0.61772, - "mrr_at_50": 0.61903, - "mrr_at_100": 0.61907, - "mrr_at_1000": 0.61907 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.63518, - "ndcg_at_3": 0.58048, - "ndcg_at_5": 0.58263, - "ndcg_at_10": 0.60387, - "ndcg_at_50": 0.62689, - "ndcg_at_100": 0.62832, - "ndcg_at_1000": 0.62832, - "map_at_1": 0.2443, - "map_at_3": 0.39042, - "map_at_5": 0.45473, - "map_at_10": 0.50659, - "map_at_50": 0.52198, - "map_at_100": 0.52232, - "map_at_1000": 0.52232, - "recall_at_1": 0.2443, - "recall_at_3": 0.43568, - "recall_at_5": 0.54093, - "recall_at_10": 0.64048, - "recall_at_50": 0.6973, - "recall_at_100": 0.70294, - "recall_at_1000": 0.70294, - "precision_at_1": 0.63518, - "precision_at_3": 0.46128, - "precision_at_5": 0.37386, - "precision_at_10": 0.24023, - "precision_at_50": 0.05418, - "precision_at_100": 0.02734, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.63518, - "mrr_at_3": 0.70826, - "mrr_at_5": 0.71539, - "mrr_at_10": 0.71904, - "mrr_at_50": 0.71965, - "mrr_at_100": 0.71968, - "mrr_at_1000": 0.71968 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.4874, - "ndcg_at_3": 0.47261, - "ndcg_at_5": 0.47145, - "ndcg_at_10": 0.48957, - "ndcg_at_50": 0.51215, - "ndcg_at_100": 0.51273, - "ndcg_at_1000": 0.51273, - "map_at_1": 0.23314, - "map_at_3": 0.33818, - "map_at_5": 0.37658, - "map_at_10": 0.40822, - "map_at_50": 0.41958, - "map_at_100": 0.41969, - "map_at_1000": 0.41969, - "recall_at_1": 0.23314, - "recall_at_3": 0.38497, - "recall_at_5": 0.45589, - "recall_at_10": 0.53296, - "recall_at_50": 0.59643, - "recall_at_100": 0.59865, - "recall_at_1000": 0.59865, - "precision_at_1": 0.4874, - "precision_at_3": 0.339, - "precision_at_5": 0.26303, - "precision_at_10": 0.16696, - "precision_at_50": 0.03835, - "precision_at_100": 0.01927, - "precision_at_1000": 0.00193, - "mrr_at_1": 0.4874, - "mrr_at_3": 0.56327, - "mrr_at_5": 0.57589, - "mrr_at_10": 0.58212, - "mrr_at_50": 0.58418, - "mrr_at_100": 0.58419, - "mrr_at_1000": 0.58419 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65607, - "ndcg_at_3": 0.61554, - "ndcg_at_5": 0.62582, - "ndcg_at_10": 0.67109, - "ndcg_at_50": 0.71737, - "ndcg_at_100": 0.71997, - "ndcg_at_1000": 0.71997, - "map_at_1": 0.21211, - "map_at_3": 0.4034, - "map_at_5": 0.49314, - "map_at_10": 0.56613, - "map_at_50": 0.59119, - "map_at_100": 0.59167, - "map_at_1000": 0.59167, - "recall_at_1": 0.21211, - "recall_at_3": 0.4557, - "recall_at_5": 0.59432, - "recall_at_10": 0.7404, - "recall_at_50": 0.87322, - "recall_at_100": 0.88521, - "recall_at_1000": 0.88521, - "precision_at_1": 0.65607, - "precision_at_3": 0.52794, - "precision_at_5": 0.4422, - "precision_at_10": 0.29075, - "precision_at_50": 0.0685, - "precision_at_100": 0.0346, - "precision_at_1000": 0.00346, - "mrr_at_1": 0.65607, - "mrr_at_3": 0.74037, - "mrr_at_5": 0.75207, - "mrr_at_10": 0.7558, - "mrr_at_50": 0.75788, - "mrr_at_100": 0.75792, - "mrr_at_1000": 0.75792 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.70571, - "ndcg_at_3": 0.6463, - "ndcg_at_5": 0.63425, - "ndcg_at_10": 0.68655, - "ndcg_at_50": 0.73319, - "ndcg_at_100": 0.73487, - "ndcg_at_1000": 0.73487, - "map_at_1": 0.21109, - "map_at_3": 0.39208, - "map_at_5": 0.48284, - "map_at_10": 0.58074, - "map_at_50": 0.60966, - "map_at_100": 0.60988, - "map_at_1000": 0.60988, - "recall_at_1": 0.21109, - "recall_at_3": 0.42691, - "recall_at_5": 0.55565, - "recall_at_10": 0.74393, - "recall_at_50": 0.86971, - "recall_at_100": 0.87848, - "recall_at_1000": 0.87848, - "precision_at_1": 0.70571, - "precision_at_3": 0.57057, - "precision_at_5": 0.47508, - "precision_at_10": 0.33153, - "precision_at_50": 0.07742, - "precision_at_100": 0.03889, - "precision_at_1000": 0.00389, - "mrr_at_1": 0.70571, - "mrr_at_3": 0.77077, - "mrr_at_5": 0.77813, - "mrr_at_10": 0.78412, - "mrr_at_50": 0.7856, - "mrr_at_100": 0.78573, - "mrr_at_1000": 0.78573 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71598, - "ndcg_at_3": 0.66812, - "ndcg_at_5": 0.66718, - "ndcg_at_10": 0.69733, - "ndcg_at_50": 0.73391, - "ndcg_at_100": 0.73536, - "ndcg_at_1000": 0.73536, - "map_at_1": 0.22132, - "map_at_3": 0.41809, - "map_at_5": 0.5158, - "map_at_10": 0.60014, - "map_at_50": 0.62554, - "map_at_100": 0.62586, - "map_at_1000": 0.62586, - "recall_at_1": 0.22132, - "recall_at_3": 0.45523, - "recall_at_5": 0.59401, - "recall_at_10": 0.74043, - "recall_at_50": 0.83509, - "recall_at_100": 0.84086, - "recall_at_1000": 0.84086, - "precision_at_1": 0.71598, - "precision_at_3": 0.5789, - "precision_at_5": 0.49053, - "precision_at_10": 0.32751, - "precision_at_50": 0.07462, - "precision_at_100": 0.03754, - "precision_at_1000": 0.00375, - "mrr_at_1": 0.71598, - "mrr_at_3": 0.78008, - "mrr_at_5": 0.78703, - "mrr_at_10": 0.7905, - "mrr_at_50": 0.79191, - "mrr_at_100": 0.79191, - "mrr_at_1000": 0.79191 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.76401, - "ndcg_at_3": 0.68821, - "ndcg_at_5": 0.69449, - "ndcg_at_10": 0.75062, - "ndcg_at_50": 0.78847, - "ndcg_at_100": 0.78989, - "ndcg_at_1000": 0.78989, - "map_at_1": 0.25867, - "map_at_3": 0.47774, - "map_at_5": 0.5687, - "map_at_10": 0.65165, - "map_at_50": 0.67619, - "map_at_100": 0.67647, - "map_at_1000": 0.67647, - "recall_at_1": 0.25867, - "recall_at_3": 0.51284, - "recall_at_5": 0.64941, - "recall_at_10": 0.81378, - "recall_at_50": 0.91419, - "recall_at_100": 0.92045, - "recall_at_1000": 0.92045, - "precision_at_1": 0.76401, - "precision_at_3": 0.58112, - "precision_at_5": 0.47139, - "precision_at_10": 0.31563, - "precision_at_50": 0.07192, - "precision_at_100": 0.03614, - "precision_at_1000": 0.00361, - "mrr_at_1": 0.76401, - "mrr_at_3": 0.82055, - "mrr_at_5": 0.82955, - "mrr_at_10": 0.8335, - "mrr_at_50": 0.83457, - "mrr_at_100": 0.83457, - "mrr_at_1000": 0.83457 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.8288, - "ndcg_at_3": 0.76693, - "ndcg_at_5": 0.75522, - "ndcg_at_10": 0.80066, - "ndcg_at_50": 0.84036, - "ndcg_at_100": 0.84187, - "ndcg_at_1000": 0.84187, - "map_at_1": 0.30679, - "map_at_3": 0.52875, - "map_at_5": 0.62095, - "map_at_10": 0.70653, - "map_at_50": 0.73398, - "map_at_100": 0.73439, - "map_at_1000": 0.73439, - "recall_at_1": 0.30679, - "recall_at_3": 0.57027, - "recall_at_5": 0.69589, - "recall_at_10": 0.84558, - "recall_at_50": 0.94351, - "recall_at_100": 0.94917, - "recall_at_1000": 0.94917, - "precision_at_1": 0.8288, - "precision_at_3": 0.63225, - "precision_at_5": 0.50598, - "precision_at_10": 0.33342, - "precision_at_50": 0.0763, - "precision_at_100": 0.0384, - "precision_at_1000": 0.00384, - "mrr_at_1": 0.8288, - "mrr_at_3": 0.88361, - "mrr_at_5": 0.88659, - "mrr_at_10": 0.88789, - "mrr_at_50": 0.88833, - "mrr_at_100": 0.88833, - "mrr_at_1000": 0.88833 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.63393, - "ndcg_at_3": 0.58606, - "ndcg_at_5": 0.60046, - "ndcg_at_10": 0.64792, - "ndcg_at_50": 0.68736, - "ndcg_at_100": 0.69069, - "ndcg_at_1000": 0.69069, - "map_at_1": 0.27544, - "map_at_3": 0.4407, - "map_at_5": 0.5047, - "map_at_10": 0.55762, - "map_at_50": 0.57813, - "map_at_100": 0.57872, - "map_at_1000": 0.57872, - "recall_at_1": 0.27544, - "recall_at_3": 0.48729, - "recall_at_5": 0.59406, - "recall_at_10": 0.71962, - "recall_at_50": 0.83648, - "recall_at_100": 0.85085, - "recall_at_1000": 0.85085, - "precision_at_1": 0.63393, - "precision_at_3": 0.44444, - "precision_at_5": 0.35536, - "precision_at_10": 0.22798, - "precision_at_50": 0.05405, - "precision_at_100": 0.0275, - "precision_at_1000": 0.00275, - "mrr_at_1": 0.63393, - "mrr_at_3": 0.6994, - "mrr_at_5": 0.70997, - "mrr_at_10": 0.71653, - "mrr_at_50": 0.71833, - "mrr_at_100": 0.71846, - "mrr_at_1000": 0.71846 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.71268, - "ndcg_at_3": 0.65322, - "ndcg_at_5": 0.67257, - "ndcg_at_10": 0.72271, - "ndcg_at_50": 0.75183, - "ndcg_at_100": 0.75272, - "ndcg_at_1000": 0.75272, - "map_at_1": 0.3464, - "map_at_3": 0.52271, - "map_at_5": 0.58025, - "map_at_10": 0.6278, - "map_at_50": 0.64298, - "map_at_100": 0.64309, - "map_at_1000": 0.64309, - "recall_at_1": 0.3464, - "recall_at_3": 0.57645, - "recall_at_5": 0.68675, - "recall_at_10": 0.80511, - "recall_at_50": 0.89132, - "recall_at_100": 0.89625, - "recall_at_1000": 0.89625, - "precision_at_1": 0.71268, - "precision_at_3": 0.47418, - "precision_at_5": 0.35718, - "precision_at_10": 0.22141, - "precision_at_50": 0.04963, - "precision_at_100": 0.0249, - "precision_at_1000": 0.00249, - "mrr_at_1": 0.71268, - "mrr_at_3": 0.77981, - "mrr_at_5": 0.78939, - "mrr_at_10": 0.79267, - "mrr_at_50": 0.79467, - "mrr_at_100": 0.7947, - "mrr_at_1000": 0.7947 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.70028, - "ndcg_at_3": 0.63863, - "ndcg_at_5": 0.66439, - "ndcg_at_10": 0.71044, - "ndcg_at_50": 0.73939, - "ndcg_at_100": 0.74118, - "ndcg_at_1000": 0.74118, - "map_at_1": 0.3387, - "map_at_3": 0.51279, - "map_at_5": 0.57176, - "map_at_10": 0.613, - "map_at_50": 0.6282, - "map_at_100": 0.62847, - "map_at_1000": 0.62847, - "recall_at_1": 0.3387, - "recall_at_3": 0.57266, - "recall_at_5": 0.68305, - "recall_at_10": 0.79349, - "recall_at_50": 0.87502, - "recall_at_100": 0.8843, - "recall_at_1000": 0.8843, - "precision_at_1": 0.70028, - "precision_at_3": 0.45658, - "precision_at_5": 0.34902, - "precision_at_10": 0.21232, - "precision_at_50": 0.04835, - "precision_at_100": 0.02434, - "precision_at_1000": 0.00243, - "mrr_at_1": 0.70028, - "mrr_at_3": 0.77264, - "mrr_at_5": 0.78385, - "mrr_at_10": 0.78631, - "mrr_at_50": 0.78799, - "mrr_at_100": 0.78805, - "mrr_at_1000": 0.78805 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.71237, - "ndcg_at_3": 0.66267, - "ndcg_at_5": 0.67263, - "ndcg_at_10": 0.71031, - "ndcg_at_50": 0.74527, - "ndcg_at_100": 0.7467, - "ndcg_at_1000": 0.7467, - "map_at_1": 0.37661, - "map_at_3": 0.54252, - "map_at_5": 0.58924, - "map_at_10": 0.62217, - "map_at_50": 0.63991, - "map_at_100": 0.64017, - "map_at_1000": 0.64017, - "recall_at_1": 0.37661, - "recall_at_3": 0.59339, - "recall_at_5": 0.6779, - "recall_at_10": 0.76567, - "recall_at_50": 0.86802, - "recall_at_100": 0.87432, - "recall_at_1000": 0.87432, - "precision_at_1": 0.71237, - "precision_at_3": 0.44803, - "precision_at_5": 0.33118, - "precision_at_10": 0.19812, - "precision_at_50": 0.0464, - "precision_at_100": 0.02339, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.71237, - "mrr_at_3": 0.78763, - "mrr_at_5": 0.79489, - "mrr_at_10": 0.79934, - "mrr_at_50": 0.80103, - "mrr_at_100": 0.80103, - "mrr_at_1000": 0.80103 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.58197, - "ndcg_at_3": 0.54042, - "ndcg_at_5": 0.55745, - "ndcg_at_10": 0.60492, - "ndcg_at_50": 0.65055, - "ndcg_at_100": 0.65361, - "ndcg_at_1000": 0.65361, - "map_at_1": 0.25006, - "map_at_3": 0.39554, - "map_at_5": 0.45521, - "map_at_10": 0.50316, - "map_at_50": 0.5256, - "map_at_100": 0.52609, - "map_at_1000": 0.52609, - "recall_at_1": 0.25006, - "recall_at_3": 0.44393, - "recall_at_5": 0.55599, - "recall_at_10": 0.67867, - "recall_at_50": 0.8139, - "recall_at_100": 0.82774, - "recall_at_1000": 0.82774, - "precision_at_1": 0.58197, - "precision_at_3": 0.41712, - "precision_at_5": 0.33497, - "precision_at_10": 0.21694, - "precision_at_50": 0.0524, - "precision_at_100": 0.02658, - "precision_at_1000": 0.00266, - "mrr_at_1": 0.58197, - "mrr_at_3": 0.66712, - "mrr_at_5": 0.68051, - "mrr_at_10": 0.68848, - "mrr_at_50": 0.69097, - "mrr_at_100": 0.69105, - "mrr_at_1000": 0.69105 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.60541, - "ndcg_at_3": 0.6012, - "ndcg_at_5": 0.64066, - "ndcg_at_10": 0.69477, - "ndcg_at_50": 0.73053, - "ndcg_at_100": 0.73225, - "ndcg_at_1000": 0.73225, - "map_at_1": 0.33706, - "map_at_3": 0.50107, - "map_at_5": 0.55952, - "map_at_10": 0.60363, - "map_at_50": 0.61975, - "map_at_100": 0.62002, - "map_at_1000": 0.62002, - "recall_at_1": 0.33706, - "recall_at_3": 0.57998, - "recall_at_5": 0.69923, - "recall_at_10": 0.82537, - "recall_at_50": 0.94072, - "recall_at_100": 0.94937, - "recall_at_1000": 0.94937, - "precision_at_1": 0.60541, - "precision_at_3": 0.4036, - "precision_at_5": 0.31297, - "precision_at_10": 0.19541, - "precision_at_50": 0.04519, - "precision_at_100": 0.02276, - "precision_at_1000": 0.00228, - "mrr_at_1": 0.60541, - "mrr_at_3": 0.69234, - "mrr_at_5": 0.70396, - "mrr_at_10": 0.71068, - "mrr_at_50": 0.71449, - "mrr_at_100": 0.71459, - "mrr_at_1000": 0.71459 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.52147, - "ndcg_at_3": 0.55322, - "ndcg_at_5": 0.60096, - "ndcg_at_10": 0.65257, - "ndcg_at_50": 0.68421, - "ndcg_at_100": 0.68662, - "ndcg_at_1000": 0.68662, - "map_at_1": 0.34763, - "map_at_3": 0.47864, - "map_at_5": 0.52904, - "map_at_10": 0.56718, - "map_at_50": 0.57911, - "map_at_100": 0.57937, - "map_at_1000": 0.57937, - "recall_at_1": 0.34763, - "recall_at_3": 0.56414, - "recall_at_5": 0.67683, - "recall_at_10": 0.79701, - "recall_at_50": 0.91033, - "recall_at_100": 0.92413, - "recall_at_1000": 0.92413, - "precision_at_1": 0.52147, - "precision_at_3": 0.32822, - "precision_at_5": 0.25706, - "precision_at_10": 0.16104, - "precision_at_50": 0.03632, - "precision_at_100": 0.01834, - "precision_at_1000": 0.00183, - "mrr_at_1": 0.52147, - "mrr_at_3": 0.62526, - "mrr_at_5": 0.64167, - "mrr_at_10": 0.64845, - "mrr_at_50": 0.65244, - "mrr_at_100": 0.65258, - "mrr_at_1000": 0.65258 - }, - "gpt3": { - "ndcg_at_1": 0.42136, - "ndcg_at_3": 0.5096, - "ndcg_at_5": 0.55431, - "ndcg_at_10": 0.59946, - "ndcg_at_50": 0.62948, - "ndcg_at_100": 0.63574, - "ndcg_at_1000": 0.63574, - "map_at_1": 0.33185, - "map_at_3": 0.45858, - "map_at_5": 0.48965, - "map_at_10": 0.51434, - "map_at_50": 0.52411, - "map_at_100": 0.52484, - "map_at_1000": 0.52484, - "recall_at_1": 0.33185, - "recall_at_3": 0.57196, - "recall_at_5": 0.66815, - "recall_at_10": 0.78783, - "recall_at_50": 0.90232, - "recall_at_100": 0.93793, - "recall_at_1000": 0.93793, - "precision_at_1": 0.42136, - "precision_at_3": 0.26311, - "precision_at_5": 0.19228, - "precision_at_10": 0.11602, - "precision_at_50": 0.02682, - "precision_at_100": 0.01386, - "precision_at_1000": 0.00139, - "mrr_at_1": 0.42136, - "mrr_at_3": 0.53709, - "mrr_at_5": 0.55579, - "mrr_at_10": 0.56886, - "mrr_at_50": 0.5728, - "mrr_at_100": 0.57327, - "mrr_at_1000": 0.57327 - }, - "llm-survey": { - "ndcg_at_1": 0.54622, - "ndcg_at_3": 0.54095, - "ndcg_at_5": 0.56187, - "ndcg_at_10": 0.60955, - "ndcg_at_50": 0.64422, - "ndcg_at_100": 0.64855, - "ndcg_at_1000": 0.64855, - "map_at_1": 0.25813, - "map_at_3": 0.42631, - "map_at_5": 0.47627, - "map_at_10": 0.51837, - "map_at_50": 0.53509, - "map_at_100": 0.53568, - "map_at_1000": 0.53568, - "recall_at_1": 0.25813, - "recall_at_3": 0.48874, - "recall_at_5": 0.58391, - "recall_at_10": 0.70575, - "recall_at_50": 0.81473, - "recall_at_100": 0.83714, - "recall_at_1000": 0.83714, - "precision_at_1": 0.54622, - "precision_at_3": 0.39963, - "precision_at_5": 0.30364, - "precision_at_10": 0.19132, - "precision_at_50": 0.04443, - "precision_at_100": 0.02261, - "precision_at_1000": 0.00226, - "mrr_at_1": 0.54622, - "mrr_at_3": 0.63866, - "mrr_at_5": 0.65112, - "mrr_at_10": 0.65802, - "mrr_at_50": 0.66066, - "mrr_at_100": 0.66089, - "mrr_at_1000": 0.66089 - }, - "gemini": { - "ndcg_at_1": 0.48193, - "ndcg_at_3": 0.60561, - "ndcg_at_5": 0.63308, - "ndcg_at_10": 0.65157, - "ndcg_at_50": 0.6762, - "ndcg_at_100": 0.68013, - "ndcg_at_1000": 0.68013, - "map_at_1": 0.48193, - "map_at_3": 0.57363, - "map_at_5": 0.58849, - "map_at_10": 0.5963, - "map_at_50": 0.60184, - "map_at_100": 0.60219, - "map_at_1000": 0.60219, - "recall_at_1": 0.48193, - "recall_at_3": 0.6988, - "recall_at_5": 0.76707, - "recall_at_10": 0.82329, - "recall_at_50": 0.93173, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.48193, - "precision_at_3": 0.23293, - "precision_at_5": 0.15341, - "precision_at_10": 0.08233, - "precision_at_50": 0.01863, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.48193, - "mrr_at_3": 0.57363, - "mrr_at_5": 0.58849, - "mrr_at_10": 0.5963, - "mrr_at_50": 0.60185, - "mrr_at_100": 0.60219, - "mrr_at_1000": 0.60219 - } - } - } - } - } - }, - "[multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base)": { - "[mmarco-mMiniLMv2-L12-H384-v1](https://huggingface.co/nreimers/mmarco-mMiniLMv2-L12-H384-v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.71861, - "ndcg_at_3": 0.64861, - "ndcg_at_5": 0.66205, - "ndcg_at_10": 0.71365, - "ndcg_at_50": 0.75826, - "ndcg_at_100": 0.76177, - "ndcg_at_1000": 0.76177, - "map_at_1": 0.28892, - "map_at_3": 0.4636, - "map_at_5": 0.5442, - "map_at_10": 0.61452, - "map_at_50": 0.63917, - "map_at_100": 0.6397, - "map_at_1000": 0.6397, - "recall_at_1": 0.28892, - "recall_at_3": 0.5121, - "recall_at_5": 0.6424, - "recall_at_10": 0.79233, - "recall_at_50": 0.92396, - "recall_at_100": 0.94178, - "recall_at_1000": 0.94178, - "precision_at_1": 0.71861, - "precision_at_3": 0.50496, - "precision_at_5": 0.40958, - "precision_at_10": 0.26977, - "precision_at_50": 0.06337, - "precision_at_100": 0.03204, - "precision_at_1000": 0.0032, - "mrr_at_1": 0.71916, - "mrr_at_3": 0.77863, - "mrr_at_5": 0.78742, - "mrr_at_10": 0.79147, - "mrr_at_50": 0.79377, - "mrr_at_100": 0.79394, - "mrr_at_1000": 0.79394 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.24986, - "ndcg_at_3": 0.2416, - "ndcg_at_5": 0.24535, - "ndcg_at_10": 0.26173, - "ndcg_at_50": 0.29221, - "ndcg_at_100": 0.29716, - "ndcg_at_1000": 0.29716, - "map_at_1": 0.0832, - "map_at_3": 0.14668, - "map_at_5": 0.1747, - "map_at_10": 0.20198, - "map_at_50": 0.21593, - "map_at_100": 0.21667, - "map_at_1000": 0.21667, - "recall_at_1": 0.0832, - "recall_at_3": 0.18064, - "recall_at_5": 0.23387, - "recall_at_10": 0.29717, - "recall_at_50": 0.38944, - "recall_at_100": 0.41164, - "recall_at_1000": 0.41164, - "precision_at_1": 0.24986, - "precision_at_3": 0.20248, - "precision_at_5": 0.16768, - "precision_at_10": 0.11466, - "precision_at_50": 0.02991, - "precision_at_100": 0.01562, - "precision_at_1000": 0.00156, - "mrr_at_1": 0.24986, - "mrr_at_3": 0.31085, - "mrr_at_5": 0.32023, - "mrr_at_10": 0.32477, - "mrr_at_50": 0.3278, - "mrr_at_100": 0.32801, - "mrr_at_1000": 0.32801 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.49146, - "ndcg_at_3": 0.46125, - "ndcg_at_5": 0.45767, - "ndcg_at_10": 0.48507, - "ndcg_at_50": 0.537, - "ndcg_at_100": 0.54254, - "ndcg_at_1000": 0.54254, - "map_at_1": 0.14341, - "map_at_3": 0.26042, - "map_at_5": 0.31947, - "map_at_10": 0.37486, - "map_at_50": 0.40299, - "map_at_100": 0.40403, - "map_at_1000": 0.40403, - "recall_at_1": 0.14341, - "recall_at_3": 0.30556, - "recall_at_5": 0.40498, - "recall_at_10": 0.52574, - "recall_at_50": 0.66412, - "recall_at_100": 0.68613, - "recall_at_1000": 0.68613, - "precision_at_1": 0.49146, - "precision_at_3": 0.4064, - "precision_at_5": 0.34496, - "precision_at_10": 0.23789, - "precision_at_50": 0.06118, - "precision_at_100": 0.03148, - "precision_at_1000": 0.00315, - "mrr_at_1": 0.49146, - "mrr_at_3": 0.58702, - "mrr_at_5": 0.60154, - "mrr_at_10": 0.6088, - "mrr_at_50": 0.61115, - "mrr_at_100": 0.61135, - "mrr_at_1000": 0.61135 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.52726, - "ndcg_at_3": 0.52745, - "ndcg_at_5": 0.5299, - "ndcg_at_10": 0.55487, - "ndcg_at_50": 0.59034, - "ndcg_at_100": 0.59431, - "ndcg_at_1000": 0.59431, - "map_at_1": 0.22019, - "map_at_3": 0.35873, - "map_at_5": 0.41297, - "map_at_10": 0.46891, - "map_at_50": 0.49073, - "map_at_100": 0.49142, - "map_at_1000": 0.49142, - "recall_at_1": 0.22019, - "recall_at_3": 0.41236, - "recall_at_5": 0.50101, - "recall_at_10": 0.60979, - "recall_at_50": 0.70431, - "recall_at_100": 0.72249, - "recall_at_1000": 0.72249, - "precision_at_1": 0.52726, - "precision_at_3": 0.40913, - "precision_at_5": 0.33135, - "precision_at_10": 0.22503, - "precision_at_50": 0.05426, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.52788, - "mrr_at_3": 0.61565, - "mrr_at_5": 0.62529, - "mrr_at_10": 0.63051, - "mrr_at_50": 0.63247, - "mrr_at_100": 0.63261, - "mrr_at_1000": 0.63261 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.67416, - "ndcg_at_3": 0.63702, - "ndcg_at_5": 0.62834, - "ndcg_at_10": 0.65398, - "ndcg_at_50": 0.70278, - "ndcg_at_100": 0.70707, - "ndcg_at_1000": 0.70707, - "map_at_1": 0.17731, - "map_at_3": 0.34779, - "map_at_5": 0.44343, - "map_at_10": 0.54671, - "map_at_50": 0.58171, - "map_at_100": 0.58265, - "map_at_1000": 0.58265, - "recall_at_1": 0.17731, - "recall_at_3": 0.38663, - "recall_at_5": 0.52176, - "recall_at_10": 0.69113, - "recall_at_50": 0.81165, - "recall_at_100": 0.82938, - "recall_at_1000": 0.82938, - "precision_at_1": 0.67416, - "precision_at_3": 0.57145, - "precision_at_5": 0.49777, - "precision_at_10": 0.35654, - "precision_at_50": 0.08521, - "precision_at_100": 0.04329, - "precision_at_1000": 0.00433, - "mrr_at_1": 0.67432, - "mrr_at_3": 0.74885, - "mrr_at_5": 0.75783, - "mrr_at_10": 0.76131, - "mrr_at_50": 0.76274, - "mrr_at_100": 0.76284, - "mrr_at_1000": 0.76284 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.58164, - "ndcg_at_3": 0.50677, - "ndcg_at_5": 0.47441, - "ndcg_at_10": 0.48198, - "ndcg_at_50": 0.54155, - "ndcg_at_100": 0.5477, - "ndcg_at_1000": 0.5477, - "map_at_1": 0.12058, - "map_at_3": 0.23608, - "map_at_5": 0.29587, - "map_at_10": 0.35441, - "map_at_50": 0.38748, - "map_at_100": 0.38875, - "map_at_1000": 0.38875, - "recall_at_1": 0.12058, - "recall_at_3": 0.26889, - "recall_at_5": 0.36412, - "recall_at_10": 0.48088, - "recall_at_50": 0.62701, - "recall_at_100": 0.65031, - "recall_at_1000": 0.65031, - "precision_at_1": 0.58164, - "precision_at_3": 0.46727, - "precision_at_5": 0.39541, - "precision_at_10": 0.27113, - "precision_at_50": 0.07179, - "precision_at_100": 0.03697, - "precision_at_1000": 0.0037, - "mrr_at_1": 0.58164, - "mrr_at_3": 0.66711, - "mrr_at_5": 0.6801, - "mrr_at_10": 0.68502, - "mrr_at_50": 0.68706, - "mrr_at_100": 0.68719, - "mrr_at_1000": 0.68719 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5577, - "ndcg_at_3": 0.52643, - "ndcg_at_5": 0.54987, - "ndcg_at_10": 0.58891, - "ndcg_at_50": 0.61722, - "ndcg_at_100": 0.62193, - "ndcg_at_1000": 0.62193, - "map_at_1": 0.23081, - "map_at_3": 0.38629, - "map_at_5": 0.4471, - "map_at_10": 0.4905, - "map_at_50": 0.50342, - "map_at_100": 0.50411, - "map_at_1000": 0.50411, - "recall_at_1": 0.23081, - "recall_at_3": 0.44679, - "recall_at_5": 0.56207, - "recall_at_10": 0.67152, - "recall_at_50": 0.76234, - "recall_at_100": 0.78533, - "recall_at_1000": 0.78533, - "precision_at_1": 0.5577, - "precision_at_3": 0.40949, - "precision_at_5": 0.32712, - "precision_at_10": 0.20504, - "precision_at_50": 0.04622, - "precision_at_100": 0.02363, - "precision_at_1000": 0.00236, - "mrr_at_1": 0.5577, - "mrr_at_3": 0.64519, - "mrr_at_5": 0.65928, - "mrr_at_10": 0.66487, - "mrr_at_50": 0.667, - "mrr_at_100": 0.6672, - "mrr_at_1000": 0.6672 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.41607, - "ndcg_at_3": 0.36498, - "ndcg_at_5": 0.35146, - "ndcg_at_10": 0.36459, - "ndcg_at_50": 0.40874, - "ndcg_at_100": 0.4141, - "ndcg_at_1000": 0.4141, - "map_at_1": 0.10381, - "map_at_3": 0.18717, - "map_at_5": 0.228, - "map_at_10": 0.26423, - "map_at_50": 0.28465, - "map_at_100": 0.28562, - "map_at_1000": 0.28562, - "recall_at_1": 0.10381, - "recall_at_3": 0.22204, - "recall_at_5": 0.29553, - "recall_at_10": 0.37524, - "recall_at_50": 0.49446, - "recall_at_100": 0.51582, - "recall_at_1000": 0.51582, - "precision_at_1": 0.41607, - "precision_at_3": 0.3265, - "precision_at_5": 0.27258, - "precision_at_10": 0.18188, - "precision_at_50": 0.04818, - "precision_at_100": 0.02497, - "precision_at_1000": 0.0025, - "mrr_at_1": 0.41717, - "mrr_at_3": 0.50332, - "mrr_at_5": 0.51753, - "mrr_at_10": 0.52336, - "mrr_at_50": 0.52708, - "mrr_at_100": 0.52722, - "mrr_at_1000": 0.52722 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.46688, - "ndcg_at_3": 0.48733, - "ndcg_at_5": 0.50845, - "ndcg_at_10": 0.53546, - "ndcg_at_50": 0.56099, - "ndcg_at_100": 0.56518, - "ndcg_at_1000": 0.56518, - "map_at_1": 0.27598, - "map_at_3": 0.40274, - "map_at_5": 0.44377, - "map_at_10": 0.47435, - "map_at_50": 0.48558, - "map_at_100": 0.48603, - "map_at_1000": 0.48603, - "recall_at_1": 0.27598, - "recall_at_3": 0.46455, - "recall_at_5": 0.54553, - "recall_at_10": 0.62314, - "recall_at_50": 0.71212, - "recall_at_100": 0.73631, - "recall_at_1000": 0.73631, - "precision_at_1": 0.46688, - "precision_at_3": 0.31272, - "precision_at_5": 0.23937, - "precision_at_10": 0.14839, - "precision_at_50": 0.03409, - "precision_at_100": 0.01738, - "precision_at_1000": 0.00174, - "mrr_at_1": 0.46625, - "mrr_at_3": 0.53638, - "mrr_at_5": 0.54446, - "mrr_at_10": 0.5489, - "mrr_at_50": 0.55164, - "mrr_at_100": 0.55194, - "mrr_at_1000": 0.55194 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.64622, - "ndcg_at_3": 0.57894, - "ndcg_at_5": 0.59693, - "ndcg_at_10": 0.6319, - "ndcg_at_50": 0.65914, - "ndcg_at_100": 0.66256, - "ndcg_at_1000": 0.66256, - "map_at_1": 0.33005, - "map_at_3": 0.45332, - "map_at_5": 0.5009, - "map_at_10": 0.53583, - "map_at_50": 0.54818, - "map_at_100": 0.54874, - "map_at_1000": 0.54874, - "recall_at_1": 0.33005, - "recall_at_3": 0.50817, - "recall_at_5": 0.6039, - "recall_at_10": 0.6964, - "recall_at_50": 0.77829, - "recall_at_100": 0.79398, - "recall_at_1000": 0.79398, - "precision_at_1": 0.64622, - "precision_at_3": 0.39011, - "precision_at_5": 0.29684, - "precision_at_10": 0.18374, - "precision_at_50": 0.04244, - "precision_at_100": 0.02166, - "precision_at_1000": 0.00217, - "mrr_at_1": 0.64681, - "mrr_at_3": 0.71848, - "mrr_at_5": 0.73057, - "mrr_at_10": 0.73481, - "mrr_at_50": 0.73655, - "mrr_at_100": 0.73667, - "mrr_at_1000": 0.73667 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.6051, - "ndcg_at_3": 0.58207, - "ndcg_at_5": 0.59554, - "ndcg_at_10": 0.62091, - "ndcg_at_50": 0.64045, - "ndcg_at_100": 0.64243, - "ndcg_at_1000": 0.64243, - "map_at_1": 0.34565, - "map_at_3": 0.47813, - "map_at_5": 0.51462, - "map_at_10": 0.53956, - "map_at_50": 0.54843, - "map_at_100": 0.54869, - "map_at_1000": 0.54869, - "recall_at_1": 0.34565, - "recall_at_3": 0.54325, - "recall_at_5": 0.61581, - "recall_at_10": 0.68536, - "recall_at_50": 0.74627, - "recall_at_100": 0.75643, - "recall_at_1000": 0.75643, - "precision_at_1": 0.6051, - "precision_at_3": 0.37309, - "precision_at_5": 0.27122, - "precision_at_10": 0.15987, - "precision_at_50": 0.03575, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00181, - "mrr_at_1": 0.6051, - "mrr_at_3": 0.68452, - "mrr_at_5": 0.69315, - "mrr_at_10": 0.69749, - "mrr_at_50": 0.6991, - "mrr_at_100": 0.6992, - "mrr_at_1000": 0.6992 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.48296, - "ndcg_at_3": 0.4573, - "ndcg_at_5": 0.46163, - "ndcg_at_10": 0.48915, - "ndcg_at_50": 0.51148, - "ndcg_at_100": 0.51294, - "ndcg_at_1000": 0.51294, - "map_at_1": 0.18949, - "map_at_3": 0.31173, - "map_at_5": 0.35704, - "map_at_10": 0.39244, - "map_at_50": 0.40277, - "map_at_100": 0.40299, - "map_at_1000": 0.40299, - "recall_at_1": 0.18949, - "recall_at_3": 0.37352, - "recall_at_5": 0.45595, - "recall_at_10": 0.54597, - "recall_at_50": 0.615, - "recall_at_100": 0.62217, - "recall_at_1000": 0.62217, - "precision_at_1": 0.48296, - "precision_at_3": 0.36029, - "precision_at_5": 0.2825, - "precision_at_10": 0.17643, - "precision_at_50": 0.03949, - "precision_at_100": 0.01991, - "precision_at_1000": 0.00199, - "mrr_at_1": 0.48296, - "mrr_at_3": 0.57895, - "mrr_at_5": 0.58848, - "mrr_at_10": 0.59346, - "mrr_at_50": 0.59558, - "mrr_at_100": 0.59564, - "mrr_at_1000": 0.59564 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.51753, - "ndcg_at_3": 0.48918, - "ndcg_at_5": 0.4927, - "ndcg_at_10": 0.52083, - "ndcg_at_50": 0.56689, - "ndcg_at_100": 0.57199, - "ndcg_at_1000": 0.57199, - "map_at_1": 0.19438, - "map_at_3": 0.31615, - "map_at_5": 0.36733, - "map_at_10": 0.41481, - "map_at_50": 0.43868, - "map_at_100": 0.43968, - "map_at_1000": 0.43968, - "recall_at_1": 0.19438, - "recall_at_3": 0.37208, - "recall_at_5": 0.46755, - "recall_at_10": 0.58007, - "recall_at_50": 0.7049, - "recall_at_100": 0.72594, - "recall_at_1000": 0.72594, - "precision_at_1": 0.51753, - "precision_at_3": 0.39156, - "precision_at_5": 0.31907, - "precision_at_10": 0.21266, - "precision_at_50": 0.05412, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.51872, - "mrr_at_3": 0.612, - "mrr_at_5": 0.62546, - "mrr_at_10": 0.63239, - "mrr_at_50": 0.63481, - "mrr_at_100": 0.63494, - "mrr_at_1000": 0.63494 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.50264, - "ndcg_at_3": 0.48282, - "ndcg_at_5": 0.48863, - "ndcg_at_10": 0.50967, - "ndcg_at_50": 0.53425, - "ndcg_at_100": 0.5368, - "ndcg_at_1000": 0.5368, - "map_at_1": 0.23177, - "map_at_3": 0.33941, - "map_at_5": 0.38365, - "map_at_10": 0.41924, - "map_at_50": 0.43209, - "map_at_100": 0.43251, - "map_at_1000": 0.43251, - "recall_at_1": 0.23177, - "recall_at_3": 0.39781, - "recall_at_5": 0.48213, - "recall_at_10": 0.56533, - "recall_at_50": 0.63478, - "recall_at_100": 0.64611, - "recall_at_1000": 0.64611, - "precision_at_1": 0.50264, - "precision_at_3": 0.34896, - "precision_at_5": 0.27709, - "precision_at_10": 0.17698, - "precision_at_50": 0.04096, - "precision_at_100": 0.02082, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.50205, - "mrr_at_3": 0.58973, - "mrr_at_5": 0.60209, - "mrr_at_10": 0.6061, - "mrr_at_50": 0.60792, - "mrr_at_100": 0.60803, - "mrr_at_1000": 0.60803 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.66474, - "ndcg_at_3": 0.6177, - "ndcg_at_5": 0.62362, - "ndcg_at_10": 0.68567, - "ndcg_at_50": 0.72368, - "ndcg_at_100": 0.72817, - "ndcg_at_1000": 0.72817, - "map_at_1": 0.21177, - "map_at_3": 0.40443, - "map_at_5": 0.49023, - "map_at_10": 0.57945, - "map_at_50": 0.60001, - "map_at_100": 0.60076, - "map_at_1000": 0.60076, - "recall_at_1": 0.21177, - "recall_at_3": 0.45232, - "recall_at_5": 0.58322, - "recall_at_10": 0.7662, - "recall_at_50": 0.88107, - "recall_at_100": 0.90198, - "recall_at_1000": 0.90198, - "precision_at_1": 0.66474, - "precision_at_3": 0.53083, - "precision_at_5": 0.4422, - "precision_at_10": 0.3052, - "precision_at_50": 0.06867, - "precision_at_100": 0.03491, - "precision_at_1000": 0.00349, - "mrr_at_1": 0.66474, - "mrr_at_3": 0.74566, - "mrr_at_5": 0.75332, - "mrr_at_10": 0.75917, - "mrr_at_50": 0.76155, - "mrr_at_100": 0.76169, - "mrr_at_1000": 0.76169 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.68468, - "ndcg_at_3": 0.61153, - "ndcg_at_5": 0.61918, - "ndcg_at_10": 0.67584, - "ndcg_at_50": 0.72804, - "ndcg_at_100": 0.73218, - "ndcg_at_1000": 0.73218, - "map_at_1": 0.19915, - "map_at_3": 0.36488, - "map_at_5": 0.46238, - "map_at_10": 0.56852, - "map_at_50": 0.59809, - "map_at_100": 0.5988, - "map_at_1000": 0.5988, - "recall_at_1": 0.19915, - "recall_at_3": 0.4031, - "recall_at_5": 0.55214, - "recall_at_10": 0.73937, - "recall_at_50": 0.88797, - "recall_at_100": 0.90812, - "recall_at_1000": 0.90812, - "precision_at_1": 0.68468, - "precision_at_3": 0.53554, - "precision_at_5": 0.46727, - "precision_at_10": 0.33544, - "precision_at_50": 0.07844, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.68468, - "mrr_at_3": 0.75325, - "mrr_at_5": 0.76226, - "mrr_at_10": 0.76612, - "mrr_at_50": 0.76954, - "mrr_at_100": 0.76965, - "mrr_at_1000": 0.76965 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.69527, - "ndcg_at_3": 0.64967, - "ndcg_at_5": 0.64592, - "ndcg_at_10": 0.68636, - "ndcg_at_50": 0.73278, - "ndcg_at_100": 0.73698, - "ndcg_at_1000": 0.73698, - "map_at_1": 0.20384, - "map_at_3": 0.39622, - "map_at_5": 0.49325, - "map_at_10": 0.58712, - "map_at_50": 0.61537, - "map_at_100": 0.61608, - "map_at_1000": 0.61608, - "recall_at_1": 0.20384, - "recall_at_3": 0.43837, - "recall_at_5": 0.57893, - "recall_at_10": 0.74069, - "recall_at_50": 0.87224, - "recall_at_100": 0.89126, - "recall_at_1000": 0.89126, - "precision_at_1": 0.69527, - "precision_at_3": 0.56903, - "precision_at_5": 0.48047, - "precision_at_10": 0.33107, - "precision_at_50": 0.07716, - "precision_at_100": 0.03914, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.69527, - "mrr_at_3": 0.75888, - "mrr_at_5": 0.76642, - "mrr_at_10": 0.77142, - "mrr_at_50": 0.77339, - "mrr_at_100": 0.77352, - "mrr_at_1000": 0.77352 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.72271, - "ndcg_at_3": 0.67645, - "ndcg_at_5": 0.68251, - "ndcg_at_10": 0.73894, - "ndcg_at_50": 0.78243, - "ndcg_at_100": 0.78576, - "ndcg_at_1000": 0.78576, - "map_at_1": 0.23935, - "map_at_3": 0.45776, - "map_at_5": 0.54878, - "map_at_10": 0.63535, - "map_at_50": 0.66239, - "map_at_100": 0.66304, - "map_at_1000": 0.66304, - "recall_at_1": 0.23935, - "recall_at_3": 0.51008, - "recall_at_5": 0.64477, - "recall_at_10": 0.81072, - "recall_at_50": 0.93047, - "recall_at_100": 0.94537, - "recall_at_1000": 0.94537, - "precision_at_1": 0.72271, - "precision_at_3": 0.58407, - "precision_at_5": 0.47375, - "precision_at_10": 0.31622, - "precision_at_50": 0.07274, - "precision_at_100": 0.03681, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.72271, - "mrr_at_3": 0.80678, - "mrr_at_5": 0.81209, - "mrr_at_10": 0.81439, - "mrr_at_50": 0.81651, - "mrr_at_100": 0.81656, - "mrr_at_1000": 0.81656 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.80707, - "ndcg_at_3": 0.74128, - "ndcg_at_5": 0.74502, - "ndcg_at_10": 0.79733, - "ndcg_at_50": 0.83519, - "ndcg_at_100": 0.83843, - "ndcg_at_1000": 0.83843, - "map_at_1": 0.28925, - "map_at_3": 0.5015, - "map_at_5": 0.60634, - "map_at_10": 0.70054, - "map_at_50": 0.7255, - "map_at_100": 0.7261, - "map_at_1000": 0.7261, - "recall_at_1": 0.28925, - "recall_at_3": 0.54185, - "recall_at_5": 0.69317, - "recall_at_10": 0.85176, - "recall_at_50": 0.95312, - "recall_at_100": 0.96775, - "recall_at_1000": 0.96775, - "precision_at_1": 0.80707, - "precision_at_3": 0.61504, - "precision_at_5": 0.50924, - "precision_at_10": 0.34402, - "precision_at_50": 0.07755, - "precision_at_100": 0.03921, - "precision_at_1000": 0.00392, - "mrr_at_1": 0.80707, - "mrr_at_3": 0.86957, - "mrr_at_5": 0.87514, - "mrr_at_10": 0.87544, - "mrr_at_50": 0.87629, - "mrr_at_100": 0.87642, - "mrr_at_1000": 0.87642 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.64881, - "ndcg_at_3": 0.59866, - "ndcg_at_5": 0.60859, - "ndcg_at_10": 0.6521, - "ndcg_at_50": 0.68988, - "ndcg_at_100": 0.69406, - "ndcg_at_1000": 0.69406, - "map_at_1": 0.26345, - "map_at_3": 0.44509, - "map_at_5": 0.50913, - "map_at_10": 0.56569, - "map_at_50": 0.5841, - "map_at_100": 0.58478, - "map_at_1000": 0.58478, - "recall_at_1": 0.26345, - "recall_at_3": 0.49158, - "recall_at_5": 0.59776, - "recall_at_10": 0.7136, - "recall_at_50": 0.83684, - "recall_at_100": 0.85765, - "recall_at_1000": 0.85765, - "precision_at_1": 0.64881, - "precision_at_3": 0.4623, - "precision_at_5": 0.36548, - "precision_at_10": 0.23631, - "precision_at_50": 0.05476, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.64881, - "mrr_at_3": 0.71429, - "mrr_at_5": 0.72188, - "mrr_at_10": 0.72549, - "mrr_at_50": 0.72786, - "mrr_at_100": 0.72803, - "mrr_at_1000": 0.72803 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.67606, - "ndcg_at_3": 0.61955, - "ndcg_at_5": 0.64955, - "ndcg_at_10": 0.71115, - "ndcg_at_50": 0.73992, - "ndcg_at_100": 0.74217, - "ndcg_at_1000": 0.74217, - "map_at_1": 0.32377, - "map_at_3": 0.4859, - "map_at_5": 0.54929, - "map_at_10": 0.60497, - "map_at_50": 0.62009, - "map_at_100": 0.6204, - "map_at_1000": 0.6204, - "recall_at_1": 0.32377, - "recall_at_3": 0.55644, - "recall_at_5": 0.67354, - "recall_at_10": 0.81436, - "recall_at_50": 0.90074, - "recall_at_100": 0.91299, - "recall_at_1000": 0.91299, - "precision_at_1": 0.67606, - "precision_at_3": 0.44319, - "precision_at_5": 0.34535, - "precision_at_10": 0.22366, - "precision_at_50": 0.0502, - "precision_at_100": 0.02532, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.67606, - "mrr_at_3": 0.76385, - "mrr_at_5": 0.77329, - "mrr_at_10": 0.77729, - "mrr_at_50": 0.7784, - "mrr_at_100": 0.7785, - "mrr_at_1000": 0.7785 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.67227, - "ndcg_at_3": 0.62359, - "ndcg_at_5": 0.66169, - "ndcg_at_10": 0.71735, - "ndcg_at_50": 0.74122, - "ndcg_at_100": 0.74415, - "ndcg_at_1000": 0.74415, - "map_at_1": 0.32994, - "map_at_3": 0.49759, - "map_at_5": 0.56559, - "map_at_10": 0.61671, - "map_at_50": 0.62949, - "map_at_100": 0.62991, - "map_at_1000": 0.62991, - "recall_at_1": 0.32994, - "recall_at_3": 0.56403, - "recall_at_5": 0.69094, - "recall_at_10": 0.81903, - "recall_at_50": 0.88952, - "recall_at_100": 0.90463, - "recall_at_1000": 0.90463, - "precision_at_1": 0.67227, - "precision_at_3": 0.44538, - "precision_at_5": 0.35462, - "precision_at_10": 0.22353, - "precision_at_50": 0.04913, - "precision_at_100": 0.02485, - "precision_at_1000": 0.00248, - "mrr_at_1": 0.67227, - "mrr_at_3": 0.75957, - "mrr_at_5": 0.76909, - "mrr_at_10": 0.77193, - "mrr_at_50": 0.77332, - "mrr_at_100": 0.77345, - "mrr_at_1000": 0.77345 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.72581, - "ndcg_at_3": 0.66754, - "ndcg_at_5": 0.67729, - "ndcg_at_10": 0.73341, - "ndcg_at_50": 0.76121, - "ndcg_at_100": 0.76501, - "ndcg_at_1000": 0.76501, - "map_at_1": 0.37435, - "map_at_3": 0.54088, - "map_at_5": 0.59065, - "map_at_10": 0.641, - "map_at_50": 0.65461, - "map_at_100": 0.65515, - "map_at_1000": 0.65515, - "recall_at_1": 0.37435, - "recall_at_3": 0.59002, - "recall_at_5": 0.6807, - "recall_at_10": 0.80943, - "recall_at_50": 0.89617, - "recall_at_100": 0.91588, - "recall_at_1000": 0.91588, - "precision_at_1": 0.72581, - "precision_at_3": 0.45789, - "precision_at_5": 0.34032, - "precision_at_10": 0.21586, - "precision_at_50": 0.04839, - "precision_at_100": 0.02457, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.72581, - "mrr_at_3": 0.79032, - "mrr_at_5": 0.79919, - "mrr_at_10": 0.80302, - "mrr_at_50": 0.80449, - "mrr_at_100": 0.80463, - "mrr_at_1000": 0.80463 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.62842, - "ndcg_at_3": 0.57759, - "ndcg_at_5": 0.59354, - "ndcg_at_10": 0.64655, - "ndcg_at_50": 0.68245, - "ndcg_at_100": 0.68794, - "ndcg_at_1000": 0.68794, - "map_at_1": 0.25562, - "map_at_3": 0.41872, - "map_at_5": 0.48472, - "map_at_10": 0.54053, - "map_at_50": 0.5585, - "map_at_100": 0.55928, - "map_at_1000": 0.55928, - "recall_at_1": 0.25562, - "recall_at_3": 0.48078, - "recall_at_5": 0.59483, - "recall_at_10": 0.73104, - "recall_at_50": 0.84192, - "recall_at_100": 0.86966, - "recall_at_1000": 0.86966, - "precision_at_1": 0.62842, - "precision_at_3": 0.45264, - "precision_at_5": 0.36011, - "precision_at_10": 0.23415, - "precision_at_50": 0.05399, - "precision_at_100": 0.02757, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.62842, - "mrr_at_3": 0.71767, - "mrr_at_5": 0.72532, - "mrr_at_10": 0.73152, - "mrr_at_50": 0.73344, - "mrr_at_100": 0.73375, - "mrr_at_1000": 0.73375 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.60541, - "ndcg_at_3": 0.59845, - "ndcg_at_5": 0.64385, - "ndcg_at_10": 0.70923, - "ndcg_at_50": 0.73958, - "ndcg_at_100": 0.74468, - "ndcg_at_1000": 0.74468, - "map_at_1": 0.33781, - "map_at_3": 0.49835, - "map_at_5": 0.55971, - "map_at_10": 0.61132, - "map_at_50": 0.62461, - "map_at_100": 0.62543, - "map_at_1000": 0.62543, - "recall_at_1": 0.33781, - "recall_at_3": 0.5715, - "recall_at_5": 0.70356, - "recall_at_10": 0.85533, - "recall_at_50": 0.96009, - "recall_at_100": 0.98495, - "recall_at_1000": 0.98495, - "precision_at_1": 0.60541, - "precision_at_3": 0.4009, - "precision_at_5": 0.31459, - "precision_at_10": 0.20405, - "precision_at_50": 0.04551, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.60541, - "mrr_at_3": 0.6964, - "mrr_at_5": 0.71194, - "mrr_at_10": 0.71974, - "mrr_at_50": 0.72273, - "mrr_at_100": 0.72285, - "mrr_at_1000": 0.72285 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.45092, - "ndcg_at_3": 0.4755, - "ndcg_at_5": 0.524, - "ndcg_at_10": 0.59486, - "ndcg_at_50": 0.63832, - "ndcg_at_100": 0.64132, - "ndcg_at_1000": 0.64132, - "map_at_1": 0.28628, - "map_at_3": 0.40472, - "map_at_5": 0.44975, - "map_at_10": 0.49588, - "map_at_50": 0.51192, - "map_at_100": 0.51227, - "map_at_1000": 0.51227, - "recall_at_1": 0.28628, - "recall_at_3": 0.48186, - "recall_at_5": 0.6041, - "recall_at_10": 0.77865, - "recall_at_50": 0.93865, - "recall_at_100": 0.95501, - "recall_at_1000": 0.95501, - "precision_at_1": 0.45092, - "precision_at_3": 0.29039, - "precision_at_5": 0.22822, - "precision_at_10": 0.15491, - "precision_at_50": 0.03693, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.45092, - "mrr_at_3": 0.54499, - "mrr_at_5": 0.56846, - "mrr_at_10": 0.58328, - "mrr_at_50": 0.58809, - "mrr_at_100": 0.5882, - "mrr_at_1000": 0.5882 - }, - "gpt3": { - "ndcg_at_1": 0.40653, - "ndcg_at_3": 0.46196, - "ndcg_at_5": 0.50804, - "ndcg_at_10": 0.55446, - "ndcg_at_50": 0.60129, - "ndcg_at_100": 0.60883, - "ndcg_at_1000": 0.60883, - "map_at_1": 0.32221, - "map_at_3": 0.41716, - "map_at_5": 0.45031, - "map_at_10": 0.47488, - "map_at_50": 0.48819, - "map_at_100": 0.48896, - "map_at_1000": 0.48896, - "recall_at_1": 0.32221, - "recall_at_3": 0.50519, - "recall_at_5": 0.60435, - "recall_at_10": 0.72799, - "recall_at_50": 0.91271, - "recall_at_100": 0.95722, - "recall_at_1000": 0.95722, - "precision_at_1": 0.40653, - "precision_at_3": 0.23046, - "precision_at_5": 0.17329, - "precision_at_10": 0.10772, - "precision_at_50": 0.02706, - "precision_at_100": 0.01409, - "precision_at_1000": 0.00141, - "mrr_at_1": 0.40653, - "mrr_at_3": 0.50049, - "mrr_at_5": 0.51785, - "mrr_at_10": 0.53102, - "mrr_at_50": 0.53896, - "mrr_at_100": 0.53945, - "mrr_at_1000": 0.53945 - }, - "llm-survey": { - "ndcg_at_1": 0.52941, - "ndcg_at_3": 0.51296, - "ndcg_at_5": 0.54309, - "ndcg_at_10": 0.58997, - "ndcg_at_50": 0.6324, - "ndcg_at_100": 0.63984, - "ndcg_at_1000": 0.63984, - "map_at_1": 0.24394, - "map_at_3": 0.40279, - "map_at_5": 0.45423, - "map_at_10": 0.49716, - "map_at_50": 0.51472, - "map_at_100": 0.5157, - "map_at_1000": 0.5157, - "recall_at_1": 0.24394, - "recall_at_3": 0.46467, - "recall_at_5": 0.57393, - "recall_at_10": 0.68953, - "recall_at_50": 0.8354, - "recall_at_100": 0.87462, - "recall_at_1000": 0.87462, - "precision_at_1": 0.52941, - "precision_at_3": 0.38189, - "precision_at_5": 0.2986, - "precision_at_10": 0.19132, - "precision_at_50": 0.04538, - "precision_at_100": 0.02342, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.52941, - "mrr_at_3": 0.61251, - "mrr_at_5": 0.631, - "mrr_at_10": 0.63566, - "mrr_at_50": 0.64012, - "mrr_at_100": 0.64044, - "mrr_at_1000": 0.64044 - }, - "gemini": { - "ndcg_at_1": 0.46586, - "ndcg_at_3": 0.57496, - "ndcg_at_5": 0.60384, - "ndcg_at_10": 0.63139, - "ndcg_at_50": 0.65735, - "ndcg_at_100": 0.66203, - "ndcg_at_1000": 0.66203, - "map_at_1": 0.46586, - "map_at_3": 0.54752, - "map_at_5": 0.56399, - "map_at_10": 0.57476, - "map_at_50": 0.58045, - "map_at_100": 0.58089, - "map_at_1000": 0.58089, - "recall_at_1": 0.46586, - "recall_at_3": 0.65462, - "recall_at_5": 0.72289, - "recall_at_10": 0.81124, - "recall_at_50": 0.92771, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.46586, - "precision_at_3": 0.21821, - "precision_at_5": 0.14458, - "precision_at_10": 0.08112, - "precision_at_50": 0.01855, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.46586, - "mrr_at_3": 0.54752, - "mrr_at_5": 0.56399, - "mrr_at_10": 0.57476, - "mrr_at_50": 0.58044, - "mrr_at_100": 0.58089, - "mrr_at_1000": 0.58089 - } - } - } - } - }, - "bge-reranker-v2-m3": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.80507, - "ndcg_at_3": 0.73035, - "ndcg_at_5": 0.73911, - "ndcg_at_10": 0.78518, - "ndcg_at_50": 0.81786, - "ndcg_at_100": 0.81859, - "ndcg_at_1000": 0.81859, - "map_at_1": 0.33777, - "map_at_3": 0.54375, - "map_at_5": 0.62911, - "map_at_10": 0.69883, - "map_at_50": 0.71922, - "map_at_100": 0.71936, - "map_at_1000": 0.71936, - "recall_at_1": 0.33777, - "recall_at_3": 0.58148, - "recall_at_5": 0.7091, - "recall_at_10": 0.84617, - "recall_at_50": 0.93848, - "recall_at_100": 0.94178, - "recall_at_1000": 0.94178, - "precision_at_1": 0.80507, - "precision_at_3": 0.56222, - "precision_at_5": 0.4457, - "precision_at_10": 0.28442, - "precision_at_50": 0.0639, - "precision_at_100": 0.03204, - "precision_at_1000": 0.0032, - "mrr_at_1": 0.80507, - "mrr_at_3": 0.84949, - "mrr_at_5": 0.85447, - "mrr_at_10": 0.85766, - "mrr_at_50": 0.85908, - "mrr_at_100": 0.8591, - "mrr_at_1000": 0.8591 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.33648, - "ndcg_at_3": 0.30335, - "ndcg_at_5": 0.30232, - "ndcg_at_10": 0.31586, - "ndcg_at_50": 0.34048, - "ndcg_at_100": 0.34213, - "ndcg_at_1000": 0.34213, - "map_at_1": 0.1278, - "map_at_3": 0.20197, - "map_at_5": 0.23193, - "map_at_10": 0.2587, - "map_at_50": 0.27173, - "map_at_100": 0.27198, - "map_at_1000": 0.27198, - "recall_at_1": 0.1278, - "recall_at_3": 0.22995, - "recall_at_5": 0.27894, - "recall_at_10": 0.33619, - "recall_at_50": 0.40404, - "recall_at_100": 0.41164, - "recall_at_1000": 0.41164, - "precision_at_1": 0.33648, - "precision_at_3": 0.23802, - "precision_at_5": 0.19001, - "precision_at_10": 0.12449, - "precision_at_50": 0.03083, - "precision_at_100": 0.01562, - "precision_at_1000": 0.00156, - "mrr_at_1": 0.33648, - "mrr_at_3": 0.38266, - "mrr_at_5": 0.38971, - "mrr_at_10": 0.39351, - "mrr_at_50": 0.39546, - "mrr_at_100": 0.39556, - "mrr_at_1000": 0.39556 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.62169, - "ndcg_at_3": 0.55427, - "ndcg_at_5": 0.54412, - "ndcg_at_10": 0.56794, - "ndcg_at_50": 0.60382, - "ndcg_at_100": 0.60499, - "ndcg_at_1000": 0.60499, - "map_at_1": 0.18778, - "map_at_3": 0.3286, - "map_at_5": 0.39863, - "map_at_10": 0.4615, - "map_at_50": 0.48439, - "map_at_100": 0.48464, - "map_at_1000": 0.48464, - "recall_at_1": 0.18778, - "recall_at_3": 0.36343, - "recall_at_5": 0.47056, - "recall_at_10": 0.59217, - "recall_at_50": 0.68155, - "recall_at_100": 0.68613, - "recall_at_1000": 0.68613, - "precision_at_1": 0.62169, - "precision_at_3": 0.47712, - "precision_at_5": 0.39717, - "precision_at_10": 0.26565, - "precision_at_50": 0.06258, - "precision_at_100": 0.03148, - "precision_at_1000": 0.00315, - "mrr_at_1": 0.62169, - "mrr_at_3": 0.6923, - "mrr_at_5": 0.70135, - "mrr_at_10": 0.70657, - "mrr_at_50": 0.70813, - "mrr_at_100": 0.70816, - "mrr_at_1000": 0.70816 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.63259, - "ndcg_at_3": 0.5945, - "ndcg_at_5": 0.5919, - "ndcg_at_10": 0.60912, - "ndcg_at_50": 0.63972, - "ndcg_at_100": 0.64185, - "ndcg_at_1000": 0.64185, - "map_at_1": 0.28088, - "map_at_3": 0.42363, - "map_at_5": 0.4819, - "map_at_10": 0.53311, - "map_at_50": 0.55334, - "map_at_100": 0.55376, - "map_at_1000": 0.55376, - "recall_at_1": 0.28088, - "recall_at_3": 0.45873, - "recall_at_5": 0.54419, - "recall_at_10": 0.63732, - "recall_at_50": 0.71334, - "recall_at_100": 0.72249, - "recall_at_1000": 0.72249, - "precision_at_1": 0.63259, - "precision_at_3": 0.44506, - "precision_at_5": 0.35328, - "precision_at_10": 0.23116, - "precision_at_50": 0.05467, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.63259, - "mrr_at_3": 0.68928, - "mrr_at_5": 0.69665, - "mrr_at_10": 0.7009, - "mrr_at_50": 0.70232, - "mrr_at_100": 0.70238, - "mrr_at_1000": 0.70238 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.74078, - "ndcg_at_3": 0.68912, - "ndcg_at_5": 0.67153, - "ndcg_at_10": 0.68688, - "ndcg_at_50": 0.73644, - "ndcg_at_100": 0.73818, - "ndcg_at_1000": 0.73818, - "map_at_1": 0.20615, - "map_at_3": 0.39312, - "map_at_5": 0.49008, - "map_at_10": 0.58573, - "map_at_50": 0.62315, - "map_at_100": 0.62363, - "map_at_1000": 0.62363, - "recall_at_1": 0.20615, - "recall_at_3": 0.42496, - "recall_at_5": 0.55346, - "recall_at_10": 0.70679, - "recall_at_50": 0.82311, - "recall_at_100": 0.82931, - "recall_at_1000": 0.82931, - "precision_at_1": 0.74078, - "precision_at_3": 0.60748, - "precision_at_5": 0.51641, - "precision_at_10": 0.35775, - "precision_at_50": 0.08592, - "precision_at_100": 0.04329, - "precision_at_1000": 0.00433, - "mrr_at_1": 0.74078, - "mrr_at_3": 0.79733, - "mrr_at_5": 0.80403, - "mrr_at_10": 0.80723, - "mrr_at_50": 0.80827, - "mrr_at_100": 0.80828, - "mrr_at_1000": 0.80828 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.64888, - "ndcg_at_3": 0.56792, - "ndcg_at_5": 0.52942, - "ndcg_at_10": 0.53419, - "ndcg_at_50": 0.58302, - "ndcg_at_100": 0.58484, - "ndcg_at_1000": 0.58484, - "map_at_1": 0.13824, - "map_at_3": 0.27454, - "map_at_5": 0.34516, - "map_at_10": 0.41042, - "map_at_50": 0.44046, - "map_at_100": 0.44089, - "map_at_1000": 0.44089, - "recall_at_1": 0.13824, - "recall_at_3": 0.30411, - "recall_at_5": 0.40553, - "recall_at_10": 0.52696, - "recall_at_50": 0.64375, - "recall_at_100": 0.65031, - "recall_at_1000": 0.65031, - "precision_at_1": 0.64888, - "precision_at_3": 0.52312, - "precision_at_5": 0.43821, - "precision_at_10": 0.29637, - "precision_at_50": 0.07327, - "precision_at_100": 0.03697, - "precision_at_1000": 0.0037, - "mrr_at_1": 0.64941, - "mrr_at_3": 0.7211, - "mrr_at_5": 0.73035, - "mrr_at_10": 0.73432, - "mrr_at_50": 0.73613, - "mrr_at_100": 0.73614, - "mrr_at_1000": 0.73614 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.60984, - "ndcg_at_3": 0.56963, - "ndcg_at_5": 0.5823, - "ndcg_at_10": 0.61923, - "ndcg_at_50": 0.6506, - "ndcg_at_100": 0.65187, - "ndcg_at_1000": 0.65187, - "map_at_1": 0.27127, - "map_at_3": 0.43179, - "map_at_5": 0.48364, - "map_at_10": 0.52284, - "map_at_50": 0.53899, - "map_at_100": 0.53923, - "map_at_1000": 0.53923, - "recall_at_1": 0.27127, - "recall_at_3": 0.48802, - "recall_at_5": 0.58571, - "recall_at_10": 0.69003, - "recall_at_50": 0.77978, - "recall_at_100": 0.78533, - "recall_at_1000": 0.78533, - "precision_at_1": 0.60984, - "precision_at_3": 0.42824, - "precision_at_5": 0.32607, - "precision_at_10": 0.20182, - "precision_at_50": 0.04694, - "precision_at_100": 0.02363, - "precision_at_1000": 0.00236, - "mrr_at_1": 0.60984, - "mrr_at_3": 0.68844, - "mrr_at_5": 0.69954, - "mrr_at_10": 0.70565, - "mrr_at_50": 0.70719, - "mrr_at_100": 0.70721, - "mrr_at_1000": 0.70721 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.49584, - "ndcg_at_3": 0.42903, - "ndcg_at_5": 0.40533, - "ndcg_at_10": 0.42064, - "ndcg_at_50": 0.45473, - "ndcg_at_100": 0.45601, - "ndcg_at_1000": 0.45601, - "map_at_1": 0.12948, - "map_at_3": 0.23306, - "map_at_5": 0.27703, - "map_at_10": 0.31829, - "map_at_50": 0.3376, - "map_at_100": 0.33783, - "map_at_1000": 0.33783, - "recall_at_1": 0.12948, - "recall_at_3": 0.26566, - "recall_at_5": 0.33567, - "recall_at_10": 0.42429, - "recall_at_50": 0.51007, - "recall_at_100": 0.51552, - "recall_at_1000": 0.51552, - "precision_at_1": 0.49584, - "precision_at_3": 0.38061, - "precision_at_5": 0.30648, - "precision_at_10": 0.20316, - "precision_at_50": 0.04955, - "precision_at_100": 0.02496, - "precision_at_1000": 0.0025, - "mrr_at_1": 0.4964, - "mrr_at_3": 0.57184, - "mrr_at_5": 0.58192, - "mrr_at_10": 0.58902, - "mrr_at_50": 0.59118, - "mrr_at_100": 0.59121, - "mrr_at_1000": 0.59121 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.54448, - "ndcg_at_3": 0.56386, - "ndcg_at_5": 0.58026, - "ndcg_at_10": 0.60172, - "ndcg_at_50": 0.62065, - "ndcg_at_100": 0.62168, - "ndcg_at_1000": 0.62168, - "map_at_1": 0.34224, - "map_at_3": 0.48321, - "map_at_5": 0.52222, - "map_at_10": 0.54989, - "map_at_50": 0.55968, - "map_at_100": 0.55981, - "map_at_1000": 0.55981, - "recall_at_1": 0.34224, - "recall_at_3": 0.53521, - "recall_at_5": 0.60787, - "recall_at_10": 0.67057, - "recall_at_50": 0.73057, - "recall_at_100": 0.73631, - "recall_at_1000": 0.73631, - "precision_at_1": 0.54448, - "precision_at_3": 0.34742, - "precision_at_5": 0.25741, - "precision_at_10": 0.15495, - "precision_at_50": 0.03459, - "precision_at_100": 0.01738, - "precision_at_1000": 0.00174, - "mrr_at_1": 0.54448, - "mrr_at_3": 0.60494, - "mrr_at_5": 0.61286, - "mrr_at_10": 0.61561, - "mrr_at_50": 0.61748, - "mrr_at_100": 0.61754, - "mrr_at_1000": 0.61754 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.79571, - "ndcg_at_3": 0.68939, - "ndcg_at_5": 0.69715, - "ndcg_at_10": 0.7222, - "ndcg_at_50": 0.73784, - "ndcg_at_100": 0.73845, - "ndcg_at_1000": 0.73845, - "map_at_1": 0.41162, - "map_at_3": 0.55777, - "map_at_5": 0.60603, - "map_at_10": 0.63768, - "map_at_50": 0.64701, - "map_at_100": 0.64711, - "map_at_1000": 0.64711, - "recall_at_1": 0.41162, - "recall_at_3": 0.59577, - "recall_at_5": 0.67978, - "recall_at_10": 0.75021, - "recall_at_50": 0.79133, - "recall_at_100": 0.79398, - "recall_at_1000": 0.79398, - "precision_at_1": 0.79571, - "precision_at_3": 0.45821, - "precision_at_5": 0.33651, - "precision_at_10": 0.19809, - "precision_at_50": 0.04314, - "precision_at_100": 0.02166, - "precision_at_1000": 0.00217, - "mrr_at_1": 0.79571, - "mrr_at_3": 0.8372, - "mrr_at_5": 0.84242, - "mrr_at_10": 0.84427, - "mrr_at_50": 0.84457, - "mrr_at_100": 0.8446, - "mrr_at_1000": 0.8446 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.74059, - "ndcg_at_3": 0.67477, - "ndcg_at_5": 0.6811, - "ndcg_at_10": 0.69651, - "ndcg_at_50": 0.70819, - "ndcg_at_100": 0.70889, - "ndcg_at_1000": 0.70889, - "map_at_1": 0.43231, - "map_at_3": 0.57425, - "map_at_5": 0.61057, - "map_at_10": 0.63077, - "map_at_50": 0.63664, - "map_at_100": 0.63675, - "map_at_1000": 0.63675, - "recall_at_1": 0.43231, - "recall_at_3": 0.61027, - "recall_at_5": 0.67224, - "recall_at_10": 0.71919, - "recall_at_50": 0.75331, - "recall_at_100": 0.75643, - "recall_at_1000": 0.75643, - "precision_at_1": 0.74059, - "precision_at_3": 0.42038, - "precision_at_5": 0.29728, - "precision_at_10": 0.16769, - "precision_at_50": 0.03598, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00181, - "mrr_at_1": 0.74059, - "mrr_at_3": 0.78383, - "mrr_at_5": 0.78826, - "mrr_at_10": 0.7906, - "mrr_at_50": 0.79149, - "mrr_at_100": 0.79151, - "mrr_at_1000": 0.79151 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.54304, - "ndcg_at_3": 0.48841, - "ndcg_at_5": 0.4915, - "ndcg_at_10": 0.51488, - "ndcg_at_50": 0.53725, - "ndcg_at_100": 0.53805, - "ndcg_at_1000": 0.53805, - "map_at_1": 0.23075, - "map_at_3": 0.34735, - "map_at_5": 0.3896, - "map_at_10": 0.42063, - "map_at_50": 0.43206, - "map_at_100": 0.43217, - "map_at_1000": 0.43217, - "recall_at_1": 0.23075, - "recall_at_3": 0.39694, - "recall_at_5": 0.47838, - "recall_at_10": 0.55551, - "recall_at_50": 0.61822, - "recall_at_100": 0.62217, - "recall_at_1000": 0.62217, - "precision_at_1": 0.54304, - "precision_at_3": 0.36742, - "precision_at_5": 0.2818, - "precision_at_10": 0.17377, - "precision_at_50": 0.03964, - "precision_at_100": 0.01991, - "precision_at_1000": 0.00199, - "mrr_at_1": 0.54304, - "mrr_at_3": 0.62074, - "mrr_at_5": 0.63073, - "mrr_at_10": 0.63495, - "mrr_at_50": 0.6363, - "mrr_at_100": 0.63633, - "mrr_at_1000": 0.63633 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.66845, - "ndcg_at_3": 0.60342, - "ndcg_at_5": 0.59771, - "ndcg_at_10": 0.61952, - "ndcg_at_50": 0.64807, - "ndcg_at_100": 0.64899, - "ndcg_at_1000": 0.64899, - "map_at_1": 0.26029, - "map_at_3": 0.41211, - "map_at_5": 0.47215, - "map_at_10": 0.52293, - "map_at_50": 0.54109, - "map_at_100": 0.54128, - "map_at_1000": 0.54128, - "recall_at_1": 0.26029, - "recall_at_3": 0.45629, - "recall_at_5": 0.54997, - "recall_at_10": 0.65033, - "recall_at_50": 0.72229, - "recall_at_100": 0.72594, - "recall_at_1000": 0.72594, - "precision_at_1": 0.66845, - "precision_at_3": 0.47257, - "precision_at_5": 0.37398, - "precision_at_10": 0.24064, - "precision_at_50": 0.05542, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.66845, - "mrr_at_3": 0.73133, - "mrr_at_5": 0.73929, - "mrr_at_10": 0.74314, - "mrr_at_50": 0.74445, - "mrr_at_100": 0.74447, - "mrr_at_1000": 0.74447 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.61746, - "ndcg_at_3": 0.56364, - "ndcg_at_5": 0.5608, - "ndcg_at_10": 0.5757, - "ndcg_at_50": 0.59231, - "ndcg_at_100": 0.59295, - "ndcg_at_1000": 0.59295, - "map_at_1": 0.30098, - "map_at_3": 0.41606, - "map_at_5": 0.4612, - "map_at_10": 0.49485, - "map_at_50": 0.50547, - "map_at_100": 0.5056, - "map_at_1000": 0.5056, - "recall_at_1": 0.30098, - "recall_at_3": 0.45607, - "recall_at_5": 0.53077, - "recall_at_10": 0.60214, - "recall_at_50": 0.64336, - "recall_at_100": 0.64611, - "recall_at_1000": 0.64611, - "precision_at_1": 0.61746, - "precision_at_3": 0.3925, - "precision_at_5": 0.30252, - "precision_at_10": 0.18653, - "precision_at_50": 0.04145, - "precision_at_100": 0.02082, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.61746, - "mrr_at_3": 0.67711, - "mrr_at_5": 0.68476, - "mrr_at_10": 0.68802, - "mrr_at_50": 0.68862, - "mrr_at_100": 0.68864, - "mrr_at_1000": 0.68864 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.72254, - "ndcg_at_3": 0.6809, - "ndcg_at_5": 0.67721, - "ndcg_at_10": 0.7223, - "ndcg_at_50": 0.76225, - "ndcg_at_100": 0.76356, - "ndcg_at_1000": 0.76356, - "map_at_1": 0.23831, - "map_at_3": 0.46241, - "map_at_5": 0.55036, - "map_at_10": 0.62137, - "map_at_50": 0.64636, - "map_at_100": 0.64664, - "map_at_1000": 0.64664, - "recall_at_1": 0.23831, - "recall_at_3": 0.50907, - "recall_at_5": 0.63657, - "recall_at_10": 0.78766, - "recall_at_50": 0.89605, - "recall_at_100": 0.90198, - "recall_at_1000": 0.90198, - "precision_at_1": 0.72254, - "precision_at_3": 0.58382, - "precision_at_5": 0.46647, - "precision_at_10": 0.3026, - "precision_at_50": 0.06948, - "precision_at_100": 0.03491, - "precision_at_1000": 0.00349, - "mrr_at_1": 0.72254, - "mrr_at_3": 0.79094, - "mrr_at_5": 0.79889, - "mrr_at_10": 0.80373, - "mrr_at_50": 0.80551, - "mrr_at_100": 0.80555, - "mrr_at_1000": 0.80555 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.72973, - "ndcg_at_3": 0.67947, - "ndcg_at_5": 0.67213, - "ndcg_at_10": 0.71696, - "ndcg_at_50": 0.76448, - "ndcg_at_100": 0.76686, - "ndcg_at_1000": 0.76686, - "map_at_1": 0.22192, - "map_at_3": 0.42491, - "map_at_5": 0.52063, - "map_at_10": 0.61542, - "map_at_50": 0.64572, - "map_at_100": 0.64614, - "map_at_1000": 0.64614, - "recall_at_1": 0.22192, - "recall_at_3": 0.46397, - "recall_at_5": 0.59896, - "recall_at_10": 0.76814, - "recall_at_50": 0.89648, - "recall_at_100": 0.90812, - "recall_at_1000": 0.90812, - "precision_at_1": 0.72973, - "precision_at_3": 0.5986, - "precision_at_5": 0.4991, - "precision_at_10": 0.33964, - "precision_at_50": 0.07886, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.72973, - "mrr_at_3": 0.7973, - "mrr_at_5": 0.80601, - "mrr_at_10": 0.80873, - "mrr_at_50": 0.81019, - "mrr_at_100": 0.81028, - "mrr_at_1000": 0.81028 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.77219, - "ndcg_at_3": 0.71036, - "ndcg_at_5": 0.70679, - "ndcg_at_10": 0.7425, - "ndcg_at_50": 0.78271, - "ndcg_at_100": 0.78415, - "ndcg_at_1000": 0.78415, - "map_at_1": 0.24731, - "map_at_3": 0.46212, - "map_at_5": 0.55973, - "map_at_10": 0.64807, - "map_at_50": 0.6761, - "map_at_100": 0.67642, - "map_at_1000": 0.67642, - "recall_at_1": 0.24731, - "recall_at_3": 0.49632, - "recall_at_5": 0.63435, - "recall_at_10": 0.78528, - "recall_at_50": 0.88521, - "recall_at_100": 0.89126, - "recall_at_1000": 0.89126, - "precision_at_1": 0.77219, - "precision_at_3": 0.60355, - "precision_at_5": 0.50237, - "precision_at_10": 0.33669, - "precision_at_50": 0.07781, - "precision_at_100": 0.03914, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.77219, - "mrr_at_3": 0.81953, - "mrr_at_5": 0.82855, - "mrr_at_10": 0.83117, - "mrr_at_50": 0.83264, - "mrr_at_100": 0.83268, - "mrr_at_1000": 0.83268 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.78466, - "ndcg_at_3": 0.72886, - "ndcg_at_5": 0.73046, - "ndcg_at_10": 0.77289, - "ndcg_at_50": 0.81851, - "ndcg_at_100": 0.81917, - "ndcg_at_1000": 0.81917, - "map_at_1": 0.27448, - "map_at_3": 0.5176, - "map_at_5": 0.6089, - "map_at_10": 0.68202, - "map_at_50": 0.71072, - "map_at_100": 0.71086, - "map_at_1000": 0.71086, - "recall_at_1": 0.27448, - "recall_at_3": 0.55614, - "recall_at_5": 0.68684, - "recall_at_10": 0.81944, - "recall_at_50": 0.94254, - "recall_at_100": 0.94537, - "recall_at_1000": 0.94537, - "precision_at_1": 0.78466, - "precision_at_3": 0.61455, - "precision_at_5": 0.49086, - "precision_at_10": 0.31475, - "precision_at_50": 0.07345, - "precision_at_100": 0.03681, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.78466, - "mrr_at_3": 0.84513, - "mrr_at_5": 0.85162, - "mrr_at_10": 0.85347, - "mrr_at_50": 0.85552, - "mrr_at_100": 0.85552, - "mrr_at_1000": 0.85552 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.86957, - "ndcg_at_3": 0.79706, - "ndcg_at_5": 0.78278, - "ndcg_at_10": 0.8255, - "ndcg_at_50": 0.86803, - "ndcg_at_100": 0.8691, - "ndcg_at_1000": 0.8691, - "map_at_1": 0.3205, - "map_at_3": 0.55905, - "map_at_5": 0.65123, - "map_at_10": 0.73601, - "map_at_50": 0.76541, - "map_at_100": 0.7657, - "map_at_1000": 0.7657, - "recall_at_1": 0.3205, - "recall_at_3": 0.59082, - "recall_at_5": 0.71406, - "recall_at_10": 0.85775, - "recall_at_50": 0.96385, - "recall_at_100": 0.96775, - "recall_at_1000": 0.96775, - "precision_at_1": 0.86957, - "precision_at_3": 0.65127, - "precision_at_5": 0.51902, - "precision_at_10": 0.33913, - "precision_at_50": 0.07804, - "precision_at_100": 0.03921, - "precision_at_1000": 0.00392, - "mrr_at_1": 0.86957, - "mrr_at_3": 0.91395, - "mrr_at_5": 0.91639, - "mrr_at_10": 0.91707, - "mrr_at_50": 0.91796, - "mrr_at_100": 0.91796, - "mrr_at_1000": 0.91796 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66369, - "ndcg_at_3": 0.62119, - "ndcg_at_5": 0.62875, - "ndcg_at_10": 0.6643, - "ndcg_at_50": 0.70625, - "ndcg_at_100": 0.70973, - "ndcg_at_1000": 0.70973, - "map_at_1": 0.29158, - "map_at_3": 0.46866, - "map_at_5": 0.53292, - "map_at_10": 0.58005, - "map_at_50": 0.60197, - "map_at_100": 0.60266, - "map_at_1000": 0.60266, - "recall_at_1": 0.29158, - "recall_at_3": 0.51655, - "recall_at_5": 0.61884, - "recall_at_10": 0.71742, - "recall_at_50": 0.84188, - "recall_at_100": 0.85765, - "recall_at_1000": 0.85765, - "precision_at_1": 0.66369, - "precision_at_3": 0.46925, - "precision_at_5": 0.36726, - "precision_at_10": 0.22857, - "precision_at_50": 0.05482, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.66369, - "mrr_at_3": 0.73115, - "mrr_at_5": 0.7371, - "mrr_at_10": 0.74187, - "mrr_at_50": 0.74356, - "mrr_at_100": 0.74371, - "mrr_at_1000": 0.74371 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.71831, - "ndcg_at_3": 0.66789, - "ndcg_at_5": 0.68927, - "ndcg_at_10": 0.74321, - "ndcg_at_50": 0.77089, - "ndcg_at_100": 0.77184, - "ndcg_at_1000": 0.77184, - "map_at_1": 0.35274, - "map_at_3": 0.53637, - "map_at_5": 0.59426, - "map_at_10": 0.64392, - "map_at_50": 0.65968, - "map_at_100": 0.65983, - "map_at_1000": 0.65983, - "recall_at_1": 0.35274, - "recall_at_3": 0.60195, - "recall_at_5": 0.70747, - "recall_at_10": 0.83067, - "recall_at_50": 0.9082, - "recall_at_100": 0.91299, - "recall_at_1000": 0.91299, - "precision_at_1": 0.71831, - "precision_at_3": 0.4723, - "precision_at_5": 0.35662, - "precision_at_10": 0.22451, - "precision_at_50": 0.05042, - "precision_at_100": 0.02532, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.71831, - "mrr_at_3": 0.80094, - "mrr_at_5": 0.8084, - "mrr_at_10": 0.8128, - "mrr_at_50": 0.81366, - "mrr_at_100": 0.81369, - "mrr_at_1000": 0.81369 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.71429, - "ndcg_at_3": 0.64894, - "ndcg_at_5": 0.66911, - "ndcg_at_10": 0.71535, - "ndcg_at_50": 0.75102, - "ndcg_at_100": 0.75261, - "ndcg_at_1000": 0.75261, - "map_at_1": 0.34696, - "map_at_3": 0.52221, - "map_at_5": 0.57678, - "map_at_10": 0.61962, - "map_at_50": 0.63722, - "map_at_100": 0.63746, - "map_at_1000": 0.63746, - "recall_at_1": 0.34696, - "recall_at_3": 0.5848, - "recall_at_5": 0.68389, - "recall_at_10": 0.79349, - "recall_at_50": 0.89623, - "recall_at_100": 0.90463, - "recall_at_1000": 0.90463, - "precision_at_1": 0.71429, - "precision_at_3": 0.45752, - "precision_at_5": 0.34342, - "precision_at_10": 0.21148, - "precision_at_50": 0.04941, - "precision_at_100": 0.02485, - "precision_at_1000": 0.00248, - "mrr_at_1": 0.71429, - "mrr_at_3": 0.78898, - "mrr_at_5": 0.79556, - "mrr_at_10": 0.79833, - "mrr_at_50": 0.79987, - "mrr_at_100": 0.79996, - "mrr_at_1000": 0.79996 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.74194, - "ndcg_at_3": 0.68841, - "ndcg_at_5": 0.70718, - "ndcg_at_10": 0.74871, - "ndcg_at_50": 0.77864, - "ndcg_at_100": 0.78122, - "ndcg_at_1000": 0.78122, - "map_at_1": 0.38978, - "map_at_3": 0.56626, - "map_at_5": 0.62155, - "map_at_10": 0.65874, - "map_at_50": 0.67447, - "map_at_100": 0.67489, - "map_at_1000": 0.67489, - "recall_at_1": 0.38978, - "recall_at_3": 0.61515, - "recall_at_5": 0.71988, - "recall_at_10": 0.81587, - "recall_at_50": 0.90338, - "recall_at_100": 0.91588, - "recall_at_1000": 0.91588, - "precision_at_1": 0.74194, - "precision_at_3": 0.47133, - "precision_at_5": 0.35161, - "precision_at_10": 0.2121, - "precision_at_50": 0.04855, - "precision_at_100": 0.02457, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.74194, - "mrr_at_3": 0.81228, - "mrr_at_5": 0.82276, - "mrr_at_10": 0.8247, - "mrr_at_50": 0.82561, - "mrr_at_100": 0.8257, - "mrr_at_1000": 0.8257 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.61475, - "ndcg_at_3": 0.57677, - "ndcg_at_5": 0.59381, - "ndcg_at_10": 0.64025, - "ndcg_at_50": 0.68814, - "ndcg_at_100": 0.69005, - "ndcg_at_1000": 0.69005, - "map_at_1": 0.26172, - "map_at_3": 0.43085, - "map_at_5": 0.49173, - "map_at_10": 0.5402, - "map_at_50": 0.56347, - "map_at_100": 0.5639, - "map_at_1000": 0.5639, - "recall_at_1": 0.26172, - "recall_at_3": 0.4912, - "recall_at_5": 0.59752, - "recall_at_10": 0.71434, - "recall_at_50": 0.86176, - "recall_at_100": 0.86966, - "recall_at_1000": 0.86966, - "precision_at_1": 0.61475, - "precision_at_3": 0.4408, - "precision_at_5": 0.34973, - "precision_at_10": 0.22486, - "precision_at_50": 0.05459, - "precision_at_100": 0.02757, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.61475, - "mrr_at_3": 0.70401, - "mrr_at_5": 0.71535, - "mrr_at_10": 0.71969, - "mrr_at_50": 0.72261, - "mrr_at_100": 0.72266, - "mrr_at_1000": 0.72266 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.62432, - "ndcg_at_3": 0.63129, - "ndcg_at_5": 0.67782, - "ndcg_at_10": 0.73087, - "ndcg_at_50": 0.76265, - "ndcg_at_100": 0.76612, - "ndcg_at_1000": 0.76612, - "map_at_1": 0.35483, - "map_at_3": 0.53115, - "map_at_5": 0.59348, - "map_at_10": 0.639, - "map_at_50": 0.65356, - "map_at_100": 0.65408, - "map_at_1000": 0.65408, - "recall_at_1": 0.35483, - "recall_at_3": 0.60539, - "recall_at_5": 0.7436, - "recall_at_10": 0.86531, - "recall_at_50": 0.9686, - "recall_at_100": 0.98495, - "recall_at_1000": 0.98495, - "precision_at_1": 0.62432, - "precision_at_3": 0.41622, - "precision_at_5": 0.3227, - "precision_at_10": 0.20135, - "precision_at_50": 0.04578, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.62432, - "mrr_at_3": 0.72252, - "mrr_at_5": 0.73766, - "mrr_at_10": 0.74272, - "mrr_at_50": 0.74507, - "mrr_at_100": 0.74521, - "mrr_at_1000": 0.74521 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.53681, - "ndcg_at_3": 0.57416, - "ndcg_at_5": 0.62402, - "ndcg_at_10": 0.67363, - "ndcg_at_50": 0.70689, - "ndcg_at_100": 0.70885, - "ndcg_at_1000": 0.70885, - "map_at_1": 0.35944, - "map_at_3": 0.49679, - "map_at_5": 0.54517, - "map_at_10": 0.58118, - "map_at_50": 0.59436, - "map_at_100": 0.5946, - "map_at_1000": 0.5946, - "recall_at_1": 0.35944, - "recall_at_3": 0.58971, - "recall_at_5": 0.70927, - "recall_at_10": 0.82645, - "recall_at_50": 0.94479, - "recall_at_100": 0.95501, - "recall_at_1000": 0.95501, - "precision_at_1": 0.53681, - "precision_at_3": 0.33231, - "precision_at_5": 0.25767, - "precision_at_10": 0.16104, - "precision_at_50": 0.03712, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.53681, - "mrr_at_3": 0.65031, - "mrr_at_5": 0.66979, - "mrr_at_10": 0.6759, - "mrr_at_50": 0.67856, - "mrr_at_100": 0.67865, - "mrr_at_1000": 0.67865 - }, - "gpt3": { - "ndcg_at_1": 0.4451, - "ndcg_at_3": 0.5285, - "ndcg_at_5": 0.57933, - "ndcg_at_10": 0.62113, - "ndcg_at_50": 0.65307, - "ndcg_at_100": 0.65707, - "ndcg_at_1000": 0.65707, - "map_at_1": 0.35485, - "map_at_3": 0.47676, - "map_at_5": 0.51249, - "map_at_10": 0.53475, - "map_at_50": 0.54524, - "map_at_100": 0.54573, - "map_at_1000": 0.54573, - "recall_at_1": 0.35485, - "recall_at_3": 0.59174, - "recall_at_5": 0.70376, - "recall_at_10": 0.8138, - "recall_at_50": 0.93497, - "recall_at_100": 0.95722, - "recall_at_1000": 0.95722, - "precision_at_1": 0.4451, - "precision_at_3": 0.26607, - "precision_at_5": 0.19763, - "precision_at_10": 0.1181, - "precision_at_50": 0.0276, - "precision_at_100": 0.01409, - "precision_at_1000": 0.00141, - "mrr_at_1": 0.4451, - "mrr_at_3": 0.55638, - "mrr_at_5": 0.57774, - "mrr_at_10": 0.58958, - "mrr_at_50": 0.59338, - "mrr_at_100": 0.59367, - "mrr_at_1000": 0.59367 - }, - "llm-survey": { - "ndcg_at_1": 0.59664, - "ndcg_at_3": 0.58351, - "ndcg_at_5": 0.60492, - "ndcg_at_10": 0.64288, - "ndcg_at_50": 0.68442, - "ndcg_at_100": 0.68814, - "ndcg_at_1000": 0.68814, - "map_at_1": 0.28708, - "map_at_3": 0.46618, - "map_at_5": 0.51673, - "map_at_10": 0.55267, - "map_at_50": 0.57265, - "map_at_100": 0.57317, - "map_at_1000": 0.57317, - "recall_at_1": 0.28708, - "recall_at_3": 0.53601, - "recall_at_5": 0.63232, - "recall_at_10": 0.72906, - "recall_at_50": 0.85501, - "recall_at_100": 0.87462, - "recall_at_1000": 0.87462, - "precision_at_1": 0.59664, - "precision_at_3": 0.4211, - "precision_at_5": 0.31653, - "precision_at_10": 0.19216, - "precision_at_50": 0.04616, - "precision_at_100": 0.02342, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.59664, - "mrr_at_3": 0.68721, - "mrr_at_5": 0.69771, - "mrr_at_10": 0.70243, - "mrr_at_50": 0.70564, - "mrr_at_100": 0.70581, - "mrr_at_1000": 0.70581 - }, - "gemini": { - "ndcg_at_1": 0.49398, - "ndcg_at_3": 0.61785, - "ndcg_at_5": 0.65241, - "ndcg_at_10": 0.67916, - "ndcg_at_50": 0.69488, - "ndcg_at_100": 0.6975, - "ndcg_at_1000": 0.6975, - "map_at_1": 0.49398, - "map_at_3": 0.58835, - "map_at_5": 0.60743, - "map_at_10": 0.61816, - "map_at_50": 0.62184, - "map_at_100": 0.62208, - "map_at_1000": 0.62208, - "recall_at_1": 0.49398, - "recall_at_3": 0.70281, - "recall_at_5": 0.78715, - "recall_at_10": 0.87149, - "recall_at_50": 0.93976, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.49398, - "precision_at_3": 0.23427, - "precision_at_5": 0.15743, - "precision_at_10": 0.08715, - "precision_at_50": 0.0188, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.49398, - "mrr_at_3": 0.58835, - "mrr_at_5": 0.60743, - "mrr_at_10": 0.61816, - "mrr_at_50": 0.62184, - "mrr_at_100": 0.62208, - "mrr_at_1000": 0.62208 - } - } - } - } - }, - "[bce-reranker-base_v1](https://huggingface.co/maidalun1020/bce-reranker-base_v1)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.74229, - "ndcg_at_3": 0.66962, - "ndcg_at_5": 0.67736, - "ndcg_at_10": 0.72999, - "ndcg_at_50": 0.7741, - "ndcg_at_100": 0.7768, - "ndcg_at_1000": 0.7768, - "map_at_1": 0.30394, - "map_at_3": 0.48667, - "map_at_5": 0.56173, - "map_at_10": 0.63005, - "map_at_50": 0.65629, - "map_at_100": 0.65674, - "map_at_1000": 0.65674, - "recall_at_1": 0.30394, - "recall_at_3": 0.53155, - "recall_at_5": 0.65271, - "recall_at_10": 0.8045, - "recall_at_50": 0.92873, - "recall_at_100": 0.94178, - "recall_at_1000": 0.94178, - "precision_at_1": 0.74229, - "precision_at_3": 0.51762, - "precision_at_5": 0.41035, - "precision_at_10": 0.26894, - "precision_at_50": 0.06349, - "precision_at_100": 0.03204, - "precision_at_1000": 0.0032, - "mrr_at_1": 0.74229, - "mrr_at_3": 0.80149, - "mrr_at_5": 0.80845, - "mrr_at_10": 0.81299, - "mrr_at_50": 0.81475, - "mrr_at_100": 0.81485, - "mrr_at_1000": 0.81485 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.30927, - "ndcg_at_3": 0.2807, - "ndcg_at_5": 0.28459, - "ndcg_at_10": 0.30024, - "ndcg_at_50": 0.32457, - "ndcg_at_100": 0.32776, - "ndcg_at_1000": 0.32776, - "map_at_1": 0.11407, - "map_at_3": 0.18172, - "map_at_5": 0.21344, - "map_at_10": 0.24045, - "map_at_50": 0.25327, - "map_at_100": 0.25375, - "map_at_1000": 0.25375, - "recall_at_1": 0.11407, - "recall_at_3": 0.20889, - "recall_at_5": 0.26631, - "recall_at_10": 0.32971, - "recall_at_50": 0.39678, - "recall_at_100": 0.41164, - "recall_at_1000": 0.41164, - "precision_at_1": 0.30927, - "precision_at_3": 0.22413, - "precision_at_5": 0.18401, - "precision_at_10": 0.12199, - "precision_at_50": 0.03044, - "precision_at_100": 0.01562, - "precision_at_1000": 0.00156, - "mrr_at_1": 0.30983, - "mrr_at_3": 0.35943, - "mrr_at_5": 0.36848, - "mrr_at_10": 0.37272, - "mrr_at_50": 0.37476, - "mrr_at_100": 0.37495, - "mrr_at_1000": 0.37495 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.57336, - "ndcg_at_3": 0.51747, - "ndcg_at_5": 0.51071, - "ndcg_at_10": 0.53705, - "ndcg_at_50": 0.58111, - "ndcg_at_100": 0.58321, - "ndcg_at_1000": 0.58321, - "map_at_1": 0.17345, - "map_at_3": 0.30558, - "map_at_5": 0.36936, - "map_at_10": 0.42823, - "map_at_50": 0.45532, - "map_at_100": 0.45574, - "map_at_1000": 0.45574, - "recall_at_1": 0.17345, - "recall_at_3": 0.34458, - "recall_at_5": 0.44793, - "recall_at_10": 0.56855, - "recall_at_50": 0.67772, - "recall_at_100": 0.68613, - "recall_at_1000": 0.68613, - "precision_at_1": 0.57336, - "precision_at_3": 0.44628, - "precision_at_5": 0.37325, - "precision_at_10": 0.25286, - "precision_at_50": 0.06231, - "precision_at_100": 0.03148, - "precision_at_1000": 0.00315, - "mrr_at_1": 0.57336, - "mrr_at_3": 0.65243, - "mrr_at_5": 0.66577, - "mrr_at_10": 0.67152, - "mrr_at_50": 0.67338, - "mrr_at_100": 0.67343, - "mrr_at_1000": 0.67343 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.54647, - "ndcg_at_3": 0.53184, - "ndcg_at_5": 0.53962, - "ndcg_at_10": 0.56682, - "ndcg_at_50": 0.60182, - "ndcg_at_100": 0.60466, - "ndcg_at_1000": 0.60466, - "map_at_1": 0.23706, - "map_at_3": 0.37049, - "map_at_5": 0.42581, - "map_at_10": 0.47909, - "map_at_50": 0.5019, - "map_at_100": 0.50246, - "map_at_1000": 0.50246, - "recall_at_1": 0.23706, - "recall_at_3": 0.42134, - "recall_at_5": 0.51563, - "recall_at_10": 0.62325, - "recall_at_50": 0.71034, - "recall_at_100": 0.72249, - "recall_at_1000": 0.72249, - "precision_at_1": 0.54647, - "precision_at_3": 0.40231, - "precision_at_5": 0.32788, - "precision_at_10": 0.22311, - "precision_at_50": 0.05447, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.54771, - "mrr_at_3": 0.62856, - "mrr_at_5": 0.64068, - "mrr_at_10": 0.64568, - "mrr_at_50": 0.64703, - "mrr_at_100": 0.64712, - "mrr_at_1000": 0.64712 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.64504, - "ndcg_at_3": 0.6039, - "ndcg_at_5": 0.59312, - "ndcg_at_10": 0.61741, - "ndcg_at_50": 0.68462, - "ndcg_at_100": 0.6878, - "ndcg_at_1000": 0.6878, - "map_at_1": 0.17173, - "map_at_3": 0.32917, - "map_at_5": 0.41298, - "map_at_10": 0.5022, - "map_at_50": 0.54822, - "map_at_100": 0.549, - "map_at_1000": 0.549, - "recall_at_1": 0.17173, - "recall_at_3": 0.36971, - "recall_at_5": 0.49373, - "recall_at_10": 0.65415, - "recall_at_50": 0.81701, - "recall_at_100": 0.82931, - "recall_at_1000": 0.82931, - "precision_at_1": 0.64504, - "precision_at_3": 0.53595, - "precision_at_5": 0.46197, - "precision_at_10": 0.33069, - "precision_at_50": 0.08546, - "precision_at_100": 0.04329, - "precision_at_1000": 0.00433, - "mrr_at_1": 0.6452, - "mrr_at_3": 0.72509, - "mrr_at_5": 0.73628, - "mrr_at_10": 0.74094, - "mrr_at_50": 0.74263, - "mrr_at_100": 0.74268, - "mrr_at_1000": 0.74268 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.63234, - "ndcg_at_3": 0.55796, - "ndcg_at_5": 0.51506, - "ndcg_at_10": 0.52344, - "ndcg_at_50": 0.57366, - "ndcg_at_100": 0.57646, - "ndcg_at_1000": 0.57646, - "map_at_1": 0.13015, - "map_at_3": 0.26499, - "map_at_5": 0.33142, - "map_at_10": 0.39804, - "map_at_50": 0.42875, - "map_at_100": 0.42935, - "map_at_1000": 0.42935, - "recall_at_1": 0.13015, - "recall_at_3": 0.29677, - "recall_at_5": 0.3927, - "recall_at_10": 0.51847, - "recall_at_50": 0.63955, - "recall_at_100": 0.65031, - "recall_at_1000": 0.65031, - "precision_at_1": 0.63234, - "precision_at_3": 0.51814, - "precision_at_5": 0.4286, - "precision_at_10": 0.29402, - "precision_at_50": 0.07298, - "precision_at_100": 0.03697, - "precision_at_1000": 0.0037, - "mrr_at_1": 0.63234, - "mrr_at_3": 0.70936, - "mrr_at_5": 0.71696, - "mrr_at_10": 0.72162, - "mrr_at_50": 0.72366, - "mrr_at_100": 0.72374, - "mrr_at_1000": 0.72374 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.57235, - "ndcg_at_3": 0.52523, - "ndcg_at_5": 0.54526, - "ndcg_at_10": 0.58022, - "ndcg_at_50": 0.61781, - "ndcg_at_100": 0.62125, - "ndcg_at_1000": 0.62125, - "map_at_1": 0.23971, - "map_at_3": 0.38441, - "map_at_5": 0.43971, - "map_at_10": 0.477, - "map_at_50": 0.49519, - "map_at_100": 0.49578, - "map_at_1000": 0.49578, - "recall_at_1": 0.23971, - "recall_at_3": 0.44728, - "recall_at_5": 0.55581, - "recall_at_10": 0.65659, - "recall_at_50": 0.76964, - "recall_at_100": 0.78533, - "recall_at_1000": 0.78533, - "precision_at_1": 0.57235, - "precision_at_3": 0.39992, - "precision_at_5": 0.31435, - "precision_at_10": 0.19438, - "precision_at_50": 0.0464, - "precision_at_100": 0.02363, - "precision_at_1000": 0.00236, - "mrr_at_1": 0.57293, - "mrr_at_3": 0.65905, - "mrr_at_5": 0.6715, - "mrr_at_10": 0.6767, - "mrr_at_50": 0.67887, - "mrr_at_100": 0.67896, - "mrr_at_1000": 0.67896 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.42271, - "ndcg_at_3": 0.37199, - "ndcg_at_5": 0.35959, - "ndcg_at_10": 0.3812, - "ndcg_at_50": 0.4213, - "ndcg_at_100": 0.42391, - "ndcg_at_1000": 0.42391, - "map_at_1": 0.10803, - "map_at_3": 0.19238, - "map_at_5": 0.2341, - "map_at_10": 0.27643, - "map_at_50": 0.29731, - "map_at_100": 0.29778, - "map_at_1000": 0.29778, - "recall_at_1": 0.10803, - "recall_at_3": 0.22983, - "recall_at_5": 0.30493, - "recall_at_10": 0.40107, - "recall_at_50": 0.50525, - "recall_at_100": 0.51582, - "recall_at_1000": 0.51582, - "precision_at_1": 0.42271, - "precision_at_3": 0.33426, - "precision_at_5": 0.27889, - "precision_at_10": 0.19319, - "precision_at_50": 0.04912, - "precision_at_100": 0.02497, - "precision_at_1000": 0.0025, - "mrr_at_1": 0.42493, - "mrr_at_3": 0.5121, - "mrr_at_5": 0.52705, - "mrr_at_10": 0.53414, - "mrr_at_50": 0.53691, - "mrr_at_100": 0.53702, - "mrr_at_1000": 0.53702 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.52303, - "ndcg_at_3": 0.53615, - "ndcg_at_5": 0.55529, - "ndcg_at_10": 0.58133, - "ndcg_at_50": 0.60224, - "ndcg_at_100": 0.60391, - "ndcg_at_1000": 0.60391, - "map_at_1": 0.32599, - "map_at_3": 0.45348, - "map_at_5": 0.49332, - "map_at_10": 0.52322, - "map_at_50": 0.53366, - "map_at_100": 0.53385, - "map_at_1000": 0.53385, - "recall_at_1": 0.32599, - "recall_at_3": 0.50809, - "recall_at_5": 0.58429, - "recall_at_10": 0.66021, - "recall_at_50": 0.72702, - "recall_at_100": 0.73631, - "recall_at_1000": 0.73631, - "precision_at_1": 0.52303, - "precision_at_3": 0.3306, - "precision_at_5": 0.24871, - "precision_at_10": 0.15281, - "precision_at_50": 0.0345, - "precision_at_100": 0.01738, - "precision_at_1000": 0.00174, - "mrr_at_1": 0.5224, - "mrr_at_3": 0.58528, - "mrr_at_5": 0.59332, - "mrr_at_10": 0.5973, - "mrr_at_50": 0.59926, - "mrr_at_100": 0.59941, - "mrr_at_1000": 0.59941 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.74151, - "ndcg_at_3": 0.6379, - "ndcg_at_5": 0.64283, - "ndcg_at_10": 0.67578, - "ndcg_at_50": 0.70372, - "ndcg_at_100": 0.7043, - "ndcg_at_1000": 0.7043, - "map_at_1": 0.38574, - "map_at_3": 0.50902, - "map_at_5": 0.5499, - "map_at_10": 0.58342, - "map_at_50": 0.59822, - "map_at_100": 0.59833, - "map_at_1000": 0.59833, - "recall_at_1": 0.38574, - "recall_at_3": 0.55103, - "recall_at_5": 0.62488, - "recall_at_10": 0.71338, - "recall_at_50": 0.79146, - "recall_at_100": 0.79398, - "recall_at_1000": 0.79398, - "precision_at_1": 0.74151, - "precision_at_3": 0.4187, - "precision_at_5": 0.30613, - "precision_at_10": 0.18666, - "precision_at_50": 0.04314, - "precision_at_100": 0.02166, - "precision_at_1000": 0.00217, - "mrr_at_1": 0.74092, - "mrr_at_3": 0.79551, - "mrr_at_5": 0.80117, - "mrr_at_10": 0.80434, - "mrr_at_50": 0.80566, - "mrr_at_100": 0.80568, - "mrr_at_1000": 0.80568 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.65605, - "ndcg_at_3": 0.60992, - "ndcg_at_5": 0.62495, - "ndcg_at_10": 0.64885, - "ndcg_at_50": 0.66582, - "ndcg_at_100": 0.66663, - "ndcg_at_1000": 0.66663, - "map_at_1": 0.37698, - "map_at_3": 0.50682, - "map_at_5": 0.5449, - "map_at_10": 0.56951, - "map_at_50": 0.57812, - "map_at_100": 0.57823, - "map_at_1000": 0.57823, - "recall_at_1": 0.37698, - "recall_at_3": 0.56127, - "recall_at_5": 0.63712, - "recall_at_10": 0.7014, - "recall_at_50": 0.75253, - "recall_at_100": 0.75643, - "recall_at_1000": 0.75643, - "precision_at_1": 0.65605, - "precision_at_3": 0.38332, - "precision_at_5": 0.27956, - "precision_at_10": 0.16416, - "precision_at_50": 0.03598, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00181, - "mrr_at_1": 0.65547, - "mrr_at_3": 0.7239, - "mrr_at_5": 0.73186, - "mrr_at_10": 0.73557, - "mrr_at_50": 0.73679, - "mrr_at_100": 0.73683, - "mrr_at_1000": 0.73683 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.5338, - "ndcg_at_3": 0.46551, - "ndcg_at_5": 0.47069, - "ndcg_at_10": 0.494, - "ndcg_at_50": 0.52225, - "ndcg_at_100": 0.52377, - "ndcg_at_1000": 0.52377, - "map_at_1": 0.2204, - "map_at_3": 0.32798, - "map_at_5": 0.3697, - "map_at_10": 0.39964, - "map_at_50": 0.41313, - "map_at_100": 0.41334, - "map_at_1000": 0.41334, - "recall_at_1": 0.2204, - "recall_at_3": 0.37436, - "recall_at_5": 0.45538, - "recall_at_10": 0.5325, - "recall_at_50": 0.61435, - "recall_at_100": 0.62217, - "recall_at_1000": 0.62217, - "precision_at_1": 0.5338, - "precision_at_3": 0.34989, - "precision_at_5": 0.27198, - "precision_at_10": 0.16811, - "precision_at_50": 0.03951, - "precision_at_100": 0.01991, - "precision_at_1000": 0.00199, - "mrr_at_1": 0.5338, - "mrr_at_3": 0.60562, - "mrr_at_5": 0.61634, - "mrr_at_10": 0.62099, - "mrr_at_50": 0.62312, - "mrr_at_100": 0.6232, - "mrr_at_1000": 0.6232 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.59952, - "ndcg_at_3": 0.53754, - "ndcg_at_5": 0.54191, - "ndcg_at_10": 0.57231, - "ndcg_at_50": 0.6114, - "ndcg_at_100": 0.61375, - "ndcg_at_1000": 0.61375, - "map_at_1": 0.24192, - "map_at_3": 0.36434, - "map_at_5": 0.41859, - "map_at_10": 0.47069, - "map_at_50": 0.49364, - "map_at_100": 0.49412, - "map_at_1000": 0.49412, - "recall_at_1": 0.24192, - "recall_at_3": 0.40625, - "recall_at_5": 0.50351, - "recall_at_10": 0.61563, - "recall_at_50": 0.71631, - "recall_at_100": 0.72594, - "recall_at_1000": 0.72594, - "precision_at_1": 0.59952, - "precision_at_3": 0.41513, - "precision_at_5": 0.33821, - "precision_at_10": 0.2262, - "precision_at_50": 0.05502, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.60012, - "mrr_at_3": 0.67221, - "mrr_at_5": 0.68591, - "mrr_at_10": 0.69081, - "mrr_at_50": 0.69286, - "mrr_at_100": 0.69291, - "mrr_at_1000": 0.69291 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.55009, - "ndcg_at_3": 0.51936, - "ndcg_at_5": 0.51901, - "ndcg_at_10": 0.53943, - "ndcg_at_50": 0.56174, - "ndcg_at_100": 0.56262, - "ndcg_at_1000": 0.56262, - "map_at_1": 0.26365, - "map_at_3": 0.37573, - "map_at_5": 0.4172, - "map_at_10": 0.4515, - "map_at_50": 0.46442, - "map_at_100": 0.4646, - "map_at_1000": 0.4646, - "recall_at_1": 0.26365, - "recall_at_3": 0.42872, - "recall_at_5": 0.50372, - "recall_at_10": 0.58514, - "recall_at_50": 0.64233, - "recall_at_100": 0.64611, - "recall_at_1000": 0.64611, - "precision_at_1": 0.55009, - "precision_at_3": 0.36614, - "precision_at_5": 0.28272, - "precision_at_10": 0.17868, - "precision_at_50": 0.04138, - "precision_at_100": 0.02082, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.55009, - "mrr_at_3": 0.62888, - "mrr_at_5": 0.63878, - "mrr_at_10": 0.64323, - "mrr_at_50": 0.64421, - "mrr_at_100": 0.64425, - "mrr_at_1000": 0.64425 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.65896, - "ndcg_at_3": 0.60217, - "ndcg_at_5": 0.61289, - "ndcg_at_10": 0.67174, - "ndcg_at_50": 0.71761, - "ndcg_at_100": 0.72006, - "ndcg_at_1000": 0.72006, - "map_at_1": 0.20894, - "map_at_3": 0.39111, - "map_at_5": 0.4725, - "map_at_10": 0.55242, - "map_at_50": 0.57992, - "map_at_100": 0.58019, - "map_at_1000": 0.58019, - "recall_at_1": 0.20894, - "recall_at_3": 0.44995, - "recall_at_5": 0.59081, - "recall_at_10": 0.76316, - "recall_at_50": 0.88816, - "recall_at_100": 0.90198, - "recall_at_1000": 0.90198, - "precision_at_1": 0.65896, - "precision_at_3": 0.51638, - "precision_at_5": 0.42832, - "precision_at_10": 0.29277, - "precision_at_50": 0.06942, - "precision_at_100": 0.03491, - "precision_at_1000": 0.00349, - "mrr_at_1": 0.65896, - "mrr_at_3": 0.74229, - "mrr_at_5": 0.75544, - "mrr_at_10": 0.76031, - "mrr_at_50": 0.76162, - "mrr_at_100": 0.76179, - "mrr_at_1000": 0.76179 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.63964, - "ndcg_at_3": 0.59685, - "ndcg_at_5": 0.60443, - "ndcg_at_10": 0.65418, - "ndcg_at_50": 0.7182, - "ndcg_at_100": 0.72077, - "ndcg_at_1000": 0.72077, - "map_at_1": 0.18786, - "map_at_3": 0.35864, - "map_at_5": 0.448, - "map_at_10": 0.53858, - "map_at_50": 0.57767, - "map_at_100": 0.57806, - "map_at_1000": 0.57806, - "recall_at_1": 0.18786, - "recall_at_3": 0.39943, - "recall_at_5": 0.55075, - "recall_at_10": 0.7208, - "recall_at_50": 0.89487, - "recall_at_100": 0.90812, - "recall_at_1000": 0.90812, - "precision_at_1": 0.63964, - "precision_at_3": 0.52853, - "precision_at_5": 0.45465, - "precision_at_10": 0.31772, - "precision_at_50": 0.07886, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.63964, - "mrr_at_3": 0.72723, - "mrr_at_5": 0.74329, - "mrr_at_10": 0.74763, - "mrr_at_50": 0.74928, - "mrr_at_100": 0.74941, - "mrr_at_1000": 0.74941 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.69822, - "ndcg_at_3": 0.65012, - "ndcg_at_5": 0.64051, - "ndcg_at_10": 0.68805, - "ndcg_at_50": 0.73841, - "ndcg_at_100": 0.74083, - "ndcg_at_1000": 0.74083, - "map_at_1": 0.21106, - "map_at_3": 0.40237, - "map_at_5": 0.48758, - "map_at_10": 0.5836, - "map_at_50": 0.61553, - "map_at_100": 0.616, - "map_at_1000": 0.616, - "recall_at_1": 0.21106, - "recall_at_3": 0.44393, - "recall_at_5": 0.56819, - "recall_at_10": 0.74485, - "recall_at_50": 0.88035, - "recall_at_100": 0.89126, - "recall_at_1000": 0.89126, - "precision_at_1": 0.69822, - "precision_at_3": 0.56213, - "precision_at_5": 0.46805, - "precision_at_10": 0.3284, - "precision_at_50": 0.07763, - "precision_at_100": 0.03914, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.69822, - "mrr_at_3": 0.76627, - "mrr_at_5": 0.77456, - "mrr_at_10": 0.7794, - "mrr_at_50": 0.7815, - "mrr_at_100": 0.78154, - "mrr_at_1000": 0.78154 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.74336, - "ndcg_at_3": 0.6547, - "ndcg_at_5": 0.65998, - "ndcg_at_10": 0.71826, - "ndcg_at_50": 0.7739, - "ndcg_at_100": 0.77611, - "ndcg_at_1000": 0.77611, - "map_at_1": 0.24772, - "map_at_3": 0.44557, - "map_at_5": 0.52702, - "map_at_10": 0.60862, - "map_at_50": 0.64228, - "map_at_100": 0.64266, - "map_at_1000": 0.64266, - "recall_at_1": 0.24772, - "recall_at_3": 0.48778, - "recall_at_5": 0.61876, - "recall_at_10": 0.78357, - "recall_at_50": 0.93574, - "recall_at_100": 0.94537, - "recall_at_1000": 0.94537, - "precision_at_1": 0.74336, - "precision_at_3": 0.55556, - "precision_at_5": 0.44602, - "precision_at_10": 0.30236, - "precision_at_50": 0.07304, - "precision_at_100": 0.03681, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.74336, - "mrr_at_3": 0.80826, - "mrr_at_5": 0.81726, - "mrr_at_10": 0.82032, - "mrr_at_50": 0.8229, - "mrr_at_100": 0.8229, - "mrr_at_1000": 0.8229 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.82065, - "ndcg_at_3": 0.74983, - "ndcg_at_5": 0.73959, - "ndcg_at_10": 0.79507, - "ndcg_at_50": 0.83957, - "ndcg_at_100": 0.84203, - "ndcg_at_1000": 0.84203, - "map_at_1": 0.29746, - "map_at_3": 0.51678, - "map_at_5": 0.60562, - "map_at_10": 0.6956, - "map_at_50": 0.72604, - "map_at_100": 0.72674, - "map_at_1000": 0.72674, - "recall_at_1": 0.29746, - "recall_at_3": 0.55445, - "recall_at_5": 0.67775, - "recall_at_10": 0.84546, - "recall_at_50": 0.95918, - "recall_at_100": 0.96775, - "recall_at_1000": 0.96775, - "precision_at_1": 0.82065, - "precision_at_3": 0.61594, - "precision_at_5": 0.49511, - "precision_at_10": 0.33342, - "precision_at_50": 0.0775, - "precision_at_100": 0.03921, - "precision_at_1000": 0.00392, - "mrr_at_1": 0.82065, - "mrr_at_3": 0.87681, - "mrr_at_5": 0.88062, - "mrr_at_10": 0.88328, - "mrr_at_50": 0.88413, - "mrr_at_100": 0.88413, - "mrr_at_1000": 0.88413 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.66369, - "ndcg_at_3": 0.59947, - "ndcg_at_5": 0.61037, - "ndcg_at_10": 0.65164, - "ndcg_at_50": 0.69595, - "ndcg_at_100": 0.69961, - "ndcg_at_1000": 0.69961, - "map_at_1": 0.28299, - "map_at_3": 0.45215, - "map_at_5": 0.51354, - "map_at_10": 0.56399, - "map_at_50": 0.58682, - "map_at_100": 0.58738, - "map_at_1000": 0.58738, - "recall_at_1": 0.28299, - "recall_at_3": 0.48805, - "recall_at_5": 0.59693, - "recall_at_10": 0.70668, - "recall_at_50": 0.83872, - "recall_at_100": 0.85765, - "recall_at_1000": 0.85765, - "precision_at_1": 0.66369, - "precision_at_3": 0.45536, - "precision_at_5": 0.35595, - "precision_at_10": 0.22768, - "precision_at_50": 0.05494, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.66667, - "mrr_at_3": 0.72222, - "mrr_at_5": 0.73457, - "mrr_at_10": 0.73747, - "mrr_at_50": 0.74007, - "mrr_at_100": 0.74027, - "mrr_at_1000": 0.74027 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.69014, - "ndcg_at_3": 0.63465, - "ndcg_at_5": 0.65412, - "ndcg_at_10": 0.71343, - "ndcg_at_50": 0.74562, - "ndcg_at_100": 0.74696, - "ndcg_at_1000": 0.74696, - "map_at_1": 0.32846, - "map_at_3": 0.49682, - "map_at_5": 0.55428, - "map_at_10": 0.60744, - "map_at_50": 0.6242, - "map_at_100": 0.62439, - "map_at_1000": 0.62439, - "recall_at_1": 0.32846, - "recall_at_3": 0.56755, - "recall_at_5": 0.67249, - "recall_at_10": 0.81157, - "recall_at_50": 0.90639, - "recall_at_100": 0.91299, - "recall_at_1000": 0.91299, - "precision_at_1": 0.69014, - "precision_at_3": 0.4554, - "precision_at_5": 0.34366, - "precision_at_10": 0.22141, - "precision_at_50": 0.05031, - "precision_at_100": 0.02532, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.69014, - "mrr_at_3": 0.77653, - "mrr_at_5": 0.78582, - "mrr_at_10": 0.78906, - "mrr_at_50": 0.7905, - "mrr_at_100": 0.79053, - "mrr_at_1000": 0.79053 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.66106, - "ndcg_at_3": 0.63594, - "ndcg_at_5": 0.65494, - "ndcg_at_10": 0.70228, - "ndcg_at_50": 0.73828, - "ndcg_at_100": 0.74076, - "ndcg_at_1000": 0.74076, - "map_at_1": 0.32017, - "map_at_3": 0.50881, - "map_at_5": 0.56132, - "map_at_10": 0.60282, - "map_at_50": 0.62204, - "map_at_100": 0.6224, - "map_at_1000": 0.6224, - "recall_at_1": 0.32017, - "recall_at_3": 0.57849, - "recall_at_5": 0.67625, - "recall_at_10": 0.78842, - "recall_at_50": 0.89167, - "recall_at_100": 0.90463, - "recall_at_1000": 0.90463, - "precision_at_1": 0.66106, - "precision_at_3": 0.45845, - "precision_at_5": 0.34342, - "precision_at_10": 0.2112, - "precision_at_50": 0.04919, - "precision_at_100": 0.02485, - "precision_at_1000": 0.00248, - "mrr_at_1": 0.66387, - "mrr_at_3": 0.7619, - "mrr_at_5": 0.77031, - "mrr_at_10": 0.7735, - "mrr_at_50": 0.77498, - "mrr_at_100": 0.77511, - "mrr_at_1000": 0.77511 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.66935, - "ndcg_at_3": 0.63725, - "ndcg_at_5": 0.65046, - "ndcg_at_10": 0.69791, - "ndcg_at_50": 0.73878, - "ndcg_at_100": 0.74248, - "ndcg_at_1000": 0.74248, - "map_at_1": 0.34763, - "map_at_3": 0.51638, - "map_at_5": 0.56419, - "map_at_10": 0.60282, - "map_at_50": 0.62292, - "map_at_100": 0.62352, - "map_at_1000": 0.62352, - "recall_at_1": 0.34763, - "recall_at_3": 0.57613, - "recall_at_5": 0.6647, - "recall_at_10": 0.77476, - "recall_at_50": 0.8982, - "recall_at_100": 0.91588, - "recall_at_1000": 0.91588, - "precision_at_1": 0.66935, - "precision_at_3": 0.43817, - "precision_at_5": 0.32688, - "precision_at_10": 0.20161, - "precision_at_50": 0.04823, - "precision_at_100": 0.02457, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.66935, - "mrr_at_3": 0.75896, - "mrr_at_5": 0.76662, - "mrr_at_10": 0.77234, - "mrr_at_50": 0.77413, - "mrr_at_100": 0.77425, - "mrr_at_1000": 0.77425 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.63934, - "ndcg_at_3": 0.57642, - "ndcg_at_5": 0.58614, - "ndcg_at_10": 0.63098, - "ndcg_at_50": 0.67984, - "ndcg_at_100": 0.68452, - "ndcg_at_1000": 0.68452, - "map_at_1": 0.26027, - "map_at_3": 0.42367, - "map_at_5": 0.48315, - "map_at_10": 0.53327, - "map_at_50": 0.55575, - "map_at_100": 0.55644, - "map_at_1000": 0.55644, - "recall_at_1": 0.26027, - "recall_at_3": 0.46803, - "recall_at_5": 0.57697, - "recall_at_10": 0.69421, - "recall_at_50": 0.84655, - "recall_at_100": 0.86966, - "recall_at_1000": 0.86966, - "precision_at_1": 0.63934, - "precision_at_3": 0.449, - "precision_at_5": 0.35137, - "precision_at_10": 0.22514, - "precision_at_50": 0.0541, - "precision_at_100": 0.02757, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.63934, - "mrr_at_3": 0.70719, - "mrr_at_5": 0.72004, - "mrr_at_10": 0.72292, - "mrr_at_50": 0.72809, - "mrr_at_100": 0.72831, - "mrr_at_1000": 0.72831 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.56486, - "ndcg_at_3": 0.56879, - "ndcg_at_5": 0.61026, - "ndcg_at_10": 0.67307, - "ndcg_at_50": 0.71983, - "ndcg_at_100": 0.72214, - "ndcg_at_1000": 0.72214, - "map_at_1": 0.31683, - "map_at_3": 0.46493, - "map_at_5": 0.5211, - "map_at_10": 0.56965, - "map_at_50": 0.59079, - "map_at_100": 0.59114, - "map_at_1000": 0.59114, - "recall_at_1": 0.31683, - "recall_at_3": 0.55239, - "recall_at_5": 0.67147, - "recall_at_10": 0.81938, - "recall_at_50": 0.97324, - "recall_at_100": 0.98495, - "recall_at_1000": 0.98495, - "precision_at_1": 0.56486, - "precision_at_3": 0.38378, - "precision_at_5": 0.30108, - "precision_at_10": 0.19297, - "precision_at_50": 0.04616, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.56486, - "mrr_at_3": 0.67658, - "mrr_at_5": 0.68739, - "mrr_at_10": 0.69477, - "mrr_at_50": 0.69857, - "mrr_at_100": 0.69866, - "mrr_at_1000": 0.69866 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.42638, - "ndcg_at_3": 0.47027, - "ndcg_at_5": 0.51299, - "ndcg_at_10": 0.58181, - "ndcg_at_50": 0.62855, - "ndcg_at_100": 0.63202, - "ndcg_at_1000": 0.63202, - "map_at_1": 0.27365, - "map_at_3": 0.39717, - "map_at_5": 0.4397, - "map_at_10": 0.4824, - "map_at_50": 0.49962, - "map_at_100": 0.50004, - "map_at_1000": 0.50004, - "recall_at_1": 0.27365, - "recall_at_3": 0.49055, - "recall_at_5": 0.59349, - "recall_at_10": 0.76599, - "recall_at_50": 0.93661, - "recall_at_100": 0.95501, - "recall_at_1000": 0.95501, - "precision_at_1": 0.42638, - "precision_at_3": 0.29141, - "precision_at_5": 0.22515, - "precision_at_10": 0.15123, - "precision_at_50": 0.03687, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.42638, - "mrr_at_3": 0.53988, - "mrr_at_5": 0.55475, - "mrr_at_10": 0.57009, - "mrr_at_50": 0.57512, - "mrr_at_100": 0.57533, - "mrr_at_1000": 0.57533 - }, - "gpt3": { - "ndcg_at_1": 0.39466, - "ndcg_at_3": 0.45138, - "ndcg_at_5": 0.50395, - "ndcg_at_10": 0.55105, - "ndcg_at_50": 0.59903, - "ndcg_at_100": 0.60449, - "ndcg_at_1000": 0.60449, - "map_at_1": 0.31256, - "map_at_3": 0.40723, - "map_at_5": 0.4395, - "map_at_10": 0.46366, - "map_at_50": 0.47854, - "map_at_100": 0.47911, - "map_at_1000": 0.47911, - "recall_at_1": 0.31256, - "recall_at_3": 0.49876, - "recall_at_5": 0.61696, - "recall_at_10": 0.74036, - "recall_at_50": 0.92557, - "recall_at_100": 0.95722, - "recall_at_1000": 0.95722, - "precision_at_1": 0.39466, - "precision_at_3": 0.22453, - "precision_at_5": 0.17151, - "precision_at_10": 0.10742, - "precision_at_50": 0.02742, - "precision_at_100": 0.01409, - "precision_at_1000": 0.00141, - "mrr_at_1": 0.39466, - "mrr_at_3": 0.48417, - "mrr_at_5": 0.51266, - "mrr_at_10": 0.52727, - "mrr_at_50": 0.53388, - "mrr_at_100": 0.53429, - "mrr_at_1000": 0.53429 - }, - "llm-survey": { - "ndcg_at_1": 0.44538, - "ndcg_at_3": 0.42941, - "ndcg_at_5": 0.45933, - "ndcg_at_10": 0.52114, - "ndcg_at_50": 0.58395, - "ndcg_at_100": 0.5887, - "ndcg_at_1000": 0.5887, - "map_at_1": 0.20524, - "map_at_3": 0.32935, - "map_at_5": 0.37402, - "map_at_10": 0.41818, - "map_at_50": 0.44592, - "map_at_100": 0.44649, - "map_at_1000": 0.44649, - "recall_at_1": 0.20524, - "recall_at_3": 0.38506, - "recall_at_5": 0.48981, - "recall_at_10": 0.6457, - "recall_at_50": 0.84813, - "recall_at_100": 0.87462, - "recall_at_1000": 0.87462, - "precision_at_1": 0.44538, - "precision_at_3": 0.32026, - "precision_at_5": 0.25434, - "precision_at_10": 0.17339, - "precision_at_50": 0.04599, - "precision_at_100": 0.02342, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.44538, - "mrr_at_3": 0.52801, - "mrr_at_5": 0.54874, - "mrr_at_10": 0.56276, - "mrr_at_50": 0.56766, - "mrr_at_100": 0.56792, - "mrr_at_1000": 0.56792 - }, - "gemini": { - "ndcg_at_1": 0.36145, - "ndcg_at_3": 0.47571, - "ndcg_at_5": 0.52083, - "ndcg_at_10": 0.55516, - "ndcg_at_50": 0.59015, - "ndcg_at_100": 0.59619, - "ndcg_at_1000": 0.59619, - "map_at_1": 0.36145, - "map_at_3": 0.44846, - "map_at_5": 0.47376, - "map_at_10": 0.48825, - "map_at_50": 0.49635, - "map_at_100": 0.49693, - "map_at_1000": 0.49693, - "recall_at_1": 0.36145, - "recall_at_3": 0.55422, - "recall_at_5": 0.66265, - "recall_at_10": 0.76707, - "recall_at_50": 0.91968, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.36145, - "precision_at_3": 0.18474, - "precision_at_5": 0.13253, - "precision_at_10": 0.07671, - "precision_at_50": 0.01839, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.36145, - "mrr_at_3": 0.44846, - "mrr_at_5": 0.47376, - "mrr_at_10": 0.48825, - "mrr_at_50": 0.49638, - "mrr_at_100": 0.49696, - "mrr_at_1000": 0.49696 - } - } - } - } - }, - "NoReranker": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.68117, - "ndcg_at_3": 0.58839, - "ndcg_at_5": 0.58595, - "ndcg_at_10": 0.63146, - "ndcg_at_50": 0.70378, - "ndcg_at_100": 0.71485, - "ndcg_at_1000": 0.72296, - "map_at_1": 0.28516, - "map_at_3": 0.42287, - "map_at_5": 0.47381, - "map_at_10": 0.52355, - "map_at_50": 0.56027, - "map_at_100": 0.56238, - "map_at_1000": 0.56305, - "recall_at_1": 0.28516, - "recall_at_3": 0.46593, - "recall_at_5": 0.55541, - "recall_at_10": 0.68561, - "recall_at_50": 0.89342, - "recall_at_100": 0.94178, - "recall_at_1000": 0.98974, - "precision_at_1": 0.68117, - "precision_at_3": 0.43961, - "precision_at_5": 0.33744, - "precision_at_10": 0.22258, - "precision_at_50": 0.06098, - "precision_at_100": 0.03204, - "precision_at_1000": 0.00333, - "mrr_at_1": 0.68117, - "mrr_at_3": 0.74073, - "mrr_at_5": 0.75161, - "mrr_at_10": 0.75674, - "mrr_at_50": 0.75985, - "mrr_at_100": 0.76017, - "mrr_at_1000": 0.76025 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.1166, - "ndcg_at_3": 0.12606, - "ndcg_at_5": 0.13669, - "ndcg_at_10": 0.15654, - "ndcg_at_50": 0.20584, - "ndcg_at_100": 0.22107, - "ndcg_at_1000": 0.2592, - "map_at_1": 0.04444, - "map_at_3": 0.07922, - "map_at_5": 0.09597, - "map_at_10": 0.11368, - "map_at_50": 0.13161, - "map_at_100": 0.1338, - "map_at_1000": 0.13575, - "recall_at_1": 0.04444, - "recall_at_3": 0.10087, - "recall_at_5": 0.14127, - "recall_at_10": 0.19967, - "recall_at_50": 0.34608, - "recall_at_100": 0.41164, - "recall_at_1000": 0.64627, - "precision_at_1": 0.1166, - "precision_at_3": 0.10587, - "precision_at_5": 0.09395, - "precision_at_10": 0.07174, - "precision_at_50": 0.02663, - "precision_at_100": 0.01562, - "precision_at_1000": 0.00225, - "mrr_at_1": 0.1166, - "mrr_at_3": 0.15806, - "mrr_at_5": 0.1698, - "mrr_at_10": 0.17907, - "mrr_at_50": 0.18618, - "mrr_at_100": 0.18698, - "mrr_at_1000": 0.18772 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.38598, - "ndcg_at_3": 0.34526, - "ndcg_at_5": 0.34053, - "ndcg_at_10": 0.36177, - "ndcg_at_50": 0.44074, - "ndcg_at_100": 0.46163, - "ndcg_at_1000": 0.49477, - "map_at_1": 0.11555, - "map_at_3": 0.19526, - "map_at_5": 0.23204, - "map_at_10": 0.26704, - "map_at_50": 0.30096, - "map_at_100": 0.30477, - "map_at_1000": 0.30721, - "recall_at_1": 0.11555, - "recall_at_3": 0.23011, - "recall_at_5": 0.29932, - "recall_at_10": 0.3922, - "recall_at_50": 0.60638, - "recall_at_100": 0.68613, - "recall_at_1000": 0.85888, - "precision_at_1": 0.38598, - "precision_at_3": 0.29444, - "precision_at_5": 0.24549, - "precision_at_10": 0.17183, - "precision_at_50": 0.05556, - "precision_at_100": 0.03148, - "precision_at_1000": 0.00386, - "mrr_at_1": 0.38598, - "mrr_at_3": 0.46111, - "mrr_at_5": 0.47699, - "mrr_at_10": 0.48725, - "mrr_at_50": 0.49466, - "mrr_at_100": 0.49524, - "mrr_at_1000": 0.49556 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.39281, - "ndcg_at_3": 0.39412, - "ndcg_at_5": 0.40508, - "ndcg_at_10": 0.43455, - "ndcg_at_50": 0.49359, - "ndcg_at_100": 0.50876, - "ndcg_at_1000": 0.53525, - "map_at_1": 0.17444, - "map_at_3": 0.27221, - "map_at_5": 0.31237, - "map_at_10": 0.35316, - "map_at_50": 0.38191, - "map_at_100": 0.38449, - "map_at_1000": 0.3862, - "recall_at_1": 0.17444, - "recall_at_3": 0.31882, - "recall_at_5": 0.39693, - "recall_at_10": 0.49974, - "recall_at_50": 0.66003, - "recall_at_100": 0.72249, - "recall_at_1000": 0.8741, - "precision_at_1": 0.39281, - "precision_at_3": 0.29409, - "precision_at_5": 0.24449, - "precision_at_10": 0.1723, - "precision_at_50": 0.05041, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00327, - "mrr_at_1": 0.39281, - "mrr_at_3": 0.47119, - "mrr_at_5": 0.48783, - "mrr_at_10": 0.49734, - "mrr_at_50": 0.50246, - "mrr_at_100": 0.50305, - "mrr_at_1000": 0.5034 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.5618, - "ndcg_at_3": 0.51965, - "ndcg_at_5": 0.50593, - "ndcg_at_10": 0.52579, - "ndcg_at_50": 0.61299, - "ndcg_at_100": 0.62738, - "ndcg_at_1000": 0.64608, - "map_at_1": 0.15159, - "map_at_3": 0.28211, - "map_at_5": 0.34588, - "map_at_10": 0.41493, - "map_at_50": 0.46409, - "map_at_100": 0.4673, - "map_at_1000": 0.46889, - "recall_at_1": 0.15159, - "recall_at_3": 0.31852, - "recall_at_5": 0.4181, - "recall_at_10": 0.5564, - "recall_at_50": 0.77613, - "recall_at_100": 0.82938, - "recall_at_1000": 0.9267, - "precision_at_1": 0.5618, - "precision_at_3": 0.45645, - "precision_at_5": 0.38728, - "precision_at_10": 0.27759, - "precision_at_50": 0.08115, - "precision_at_100": 0.04329, - "precision_at_1000": 0.00474, - "mrr_at_1": 0.5618, - "mrr_at_3": 0.63958, - "mrr_at_5": 0.65284, - "mrr_at_10": 0.66055, - "mrr_at_50": 0.66441, - "mrr_at_100": 0.66463, - "mrr_at_1000": 0.66476 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.32337, - "ndcg_at_3": 0.27955, - "ndcg_at_5": 0.26269, - "ndcg_at_10": 0.28169, - "ndcg_at_50": 0.3794, - "ndcg_at_100": 0.40888, - "ndcg_at_1000": 0.45952, - "map_at_1": 0.06969, - "map_at_3": 0.12355, - "map_at_5": 0.14957, - "map_at_10": 0.18126, - "map_at_50": 0.21965, - "map_at_100": 0.2254, - "map_at_1000": 0.22976, - "recall_at_1": 0.06969, - "recall_at_3": 0.14964, - "recall_at_5": 0.2033, - "recall_at_10": 0.29579, - "recall_at_50": 0.54542, - "recall_at_100": 0.65031, - "recall_at_1000": 0.892, - "precision_at_1": 0.32337, - "precision_at_3": 0.25347, - "precision_at_5": 0.21387, - "precision_at_10": 0.16259, - "precision_at_50": 0.06231, - "precision_at_100": 0.03697, - "precision_at_1000": 0.00493, - "mrr_at_1": 0.32337, - "mrr_at_3": 0.4076, - "mrr_at_5": 0.4279, - "mrr_at_10": 0.4427, - "mrr_at_50": 0.45075, - "mrr_at_100": 0.45135, - "mrr_at_1000": 0.45164 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.50264, - "ndcg_at_3": 0.44388, - "ndcg_at_5": 0.45655, - "ndcg_at_10": 0.49311, - "ndcg_at_50": 0.54974, - "ndcg_at_100": 0.56218, - "ndcg_at_1000": 0.58325, - "map_at_1": 0.22365, - "map_at_3": 0.33348, - "map_at_5": 0.37012, - "map_at_10": 0.40124, - "map_at_50": 0.42294, - "map_at_100": 0.42499, - "map_at_1000": 0.42636, - "recall_at_1": 0.22365, - "recall_at_3": 0.37794, - "recall_at_5": 0.45709, - "recall_at_10": 0.55682, - "recall_at_50": 0.73133, - "recall_at_100": 0.78533, - "recall_at_1000": 0.9101, - "precision_at_1": 0.50264, - "precision_at_3": 0.32181, - "precision_at_5": 0.24593, - "precision_at_10": 0.15764, - "precision_at_50": 0.04371, - "precision_at_100": 0.02363, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.50264, - "mrr_at_3": 0.56922, - "mrr_at_5": 0.58416, - "mrr_at_10": 0.59315, - "mrr_at_50": 0.59806, - "mrr_at_100": 0.59844, - "mrr_at_1000": 0.59865 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.28753, - "ndcg_at_3": 0.2434, - "ndcg_at_5": 0.23203, - "ndcg_at_10": 0.24925, - "ndcg_at_50": 0.31454, - "ndcg_at_100": 0.33334, - "ndcg_at_1000": 0.37393, - "map_at_1": 0.0744, - "map_at_3": 0.12339, - "map_at_5": 0.1448, - "map_at_10": 0.16913, - "map_at_50": 0.19331, - "map_at_100": 0.19638, - "map_at_1000": 0.19901, - "recall_at_1": 0.0744, - "recall_at_3": 0.14754, - "recall_at_5": 0.19279, - "recall_at_10": 0.26466, - "recall_at_50": 0.44376, - "recall_at_100": 0.51552, - "recall_at_1000": 0.72714, - "precision_at_1": 0.28753, - "precision_at_3": 0.21219, - "precision_at_5": 0.17496, - "precision_at_10": 0.12537, - "precision_at_50": 0.04329, - "precision_at_100": 0.02496, - "precision_at_1000": 0.00338, - "mrr_at_1": 0.28753, - "mrr_at_3": 0.35014, - "mrr_at_5": 0.36584, - "mrr_at_10": 0.37659, - "mrr_at_50": 0.38432, - "mrr_at_100": 0.38515, - "mrr_at_1000": 0.38565 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.43596, - "ndcg_at_3": 0.44515, - "ndcg_at_5": 0.46516, - "ndcg_at_10": 0.48998, - "ndcg_at_50": 0.52848, - "ndcg_at_100": 0.53631, - "ndcg_at_1000": 0.55394, - "map_at_1": 0.2735, - "map_at_3": 0.37556, - "map_at_5": 0.4075, - "map_at_10": 0.43144, - "map_at_50": 0.44687, - "map_at_100": 0.44788, - "map_at_1000": 0.44868, - "recall_at_1": 0.2735, - "recall_at_3": 0.42841, - "recall_at_5": 0.50009, - "recall_at_10": 0.5687, - "recall_at_50": 0.69608, - "recall_at_100": 0.73631, - "recall_at_1000": 0.86576, - "precision_at_1": 0.43596, - "precision_at_3": 0.26751, - "precision_at_5": 0.20189, - "precision_at_10": 0.12637, - "precision_at_50": 0.03307, - "precision_at_100": 0.01738, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.43596, - "mrr_at_3": 0.49495, - "mrr_at_5": 0.50637, - "mrr_at_10": 0.51157, - "mrr_at_50": 0.51519, - "mrr_at_100": 0.51566, - "mrr_at_1000": 0.51605 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.63609, - "ndcg_at_3": 0.54831, - "ndcg_at_5": 0.5487, - "ndcg_at_10": 0.57757, - "ndcg_at_50": 0.62178, - "ndcg_at_100": 0.63189, - "ndcg_at_1000": 0.65238, - "map_at_1": 0.32915, - "map_at_3": 0.43048, - "map_at_5": 0.45739, - "map_at_10": 0.48231, - "map_at_50": 0.50048, - "map_at_100": 0.50221, - "map_at_1000": 0.5036, - "recall_at_1": 0.32915, - "recall_at_3": 0.48219, - "recall_at_5": 0.54075, - "recall_at_10": 0.61831, - "recall_at_50": 0.75102, - "recall_at_100": 0.79398, - "recall_at_1000": 0.91083, - "precision_at_1": 0.63609, - "precision_at_3": 0.35438, - "precision_at_5": 0.25051, - "precision_at_10": 0.15277, - "precision_at_50": 0.04032, - "precision_at_100": 0.02166, - "precision_at_1000": 0.00254, - "mrr_at_1": 0.63609, - "mrr_at_3": 0.70538, - "mrr_at_5": 0.71437, - "mrr_at_10": 0.71917, - "mrr_at_50": 0.72205, - "mrr_at_100": 0.72224, - "mrr_at_1000": 0.72242 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.52808, - "ndcg_at_3": 0.48583, - "ndcg_at_5": 0.49891, - "ndcg_at_10": 0.52559, - "ndcg_at_50": 0.56652, - "ndcg_at_100": 0.5755, - "ndcg_at_1000": 0.59414, - "map_at_1": 0.31162, - "map_at_3": 0.40126, - "map_at_5": 0.42535, - "map_at_10": 0.44453, - "map_at_50": 0.45992, - "map_at_100": 0.46129, - "map_at_1000": 0.46245, - "recall_at_1": 0.31162, - "recall_at_3": 0.45525, - "recall_at_5": 0.51545, - "recall_at_10": 0.58743, - "recall_at_50": 0.71692, - "recall_at_100": 0.75643, - "recall_at_1000": 0.86578, - "precision_at_1": 0.52808, - "precision_at_3": 0.29184, - "precision_at_5": 0.2095, - "precision_at_10": 0.12675, - "precision_at_50": 0.03367, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00213, - "mrr_at_1": 0.52808, - "mrr_at_3": 0.59786, - "mrr_at_5": 0.60912, - "mrr_at_10": 0.61674, - "mrr_at_50": 0.62075, - "mrr_at_100": 0.62107, - "mrr_at_1000": 0.62124 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.35009, - "ndcg_at_3": 0.30595, - "ndcg_at_5": 0.31048, - "ndcg_at_10": 0.33291, - "ndcg_at_50": 0.38692, - "ndcg_at_100": 0.405, - "ndcg_at_1000": 0.43961, - "map_at_1": 0.14625, - "map_at_3": 0.20873, - "map_at_5": 0.23087, - "map_at_10": 0.24996, - "map_at_50": 0.26798, - "map_at_100": 0.27071, - "map_at_1000": 0.27282, - "recall_at_1": 0.14625, - "recall_at_3": 0.25156, - "recall_at_5": 0.30681, - "recall_at_10": 0.37494, - "recall_at_50": 0.54248, - "recall_at_100": 0.62217, - "recall_at_1000": 0.82447, - "precision_at_1": 0.35009, - "precision_at_3": 0.22396, - "precision_at_5": 0.17343, - "precision_at_10": 0.11213, - "precision_at_50": 0.03466, - "precision_at_100": 0.01991, - "precision_at_1000": 0.00262, - "mrr_at_1": 0.35009, - "mrr_at_3": 0.42249, - "mrr_at_5": 0.43714, - "mrr_at_10": 0.44643, - "mrr_at_50": 0.45243, - "mrr_at_100": 0.45314, - "mrr_at_1000": 0.45358 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.47296, - "ndcg_at_3": 0.42112, - "ndcg_at_5": 0.41578, - "ndcg_at_10": 0.44251, - "ndcg_at_50": 0.50791, - "ndcg_at_100": 0.52304, - "ndcg_at_1000": 0.54869, - "map_at_1": 0.1867, - "map_at_3": 0.27721, - "map_at_5": 0.30889, - "map_at_10": 0.34279, - "map_at_50": 0.37177, - "map_at_100": 0.37465, - "map_at_1000": 0.37645, - "recall_at_1": 0.1867, - "recall_at_3": 0.32087, - "recall_at_5": 0.38733, - "recall_at_10": 0.48602, - "recall_at_50": 0.6671, - "recall_at_100": 0.72594, - "recall_at_1000": 0.8653, - "precision_at_1": 0.47296, - "precision_at_3": 0.31927, - "precision_at_5": 0.24789, - "precision_at_10": 0.16881, - "precision_at_50": 0.05053, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00331, - "mrr_at_1": 0.47356, - "mrr_at_3": 0.54971, - "mrr_at_5": 0.56371, - "mrr_at_10": 0.57387, - "mrr_at_50": 0.57892, - "mrr_at_100": 0.57927, - "mrr_at_1000": 0.57951 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.36028, - "ndcg_at_3": 0.35347, - "ndcg_at_5": 0.36226, - "ndcg_at_10": 0.38268, - "ndcg_at_50": 0.43376, - "ndcg_at_100": 0.44657, - "ndcg_at_1000": 0.47805, - "map_at_1": 0.1774, - "map_at_3": 0.25228, - "map_at_5": 0.27946, - "map_at_10": 0.30191, - "map_at_50": 0.32113, - "map_at_100": 0.32326, - "map_at_1000": 0.32508, - "recall_at_1": 0.1774, - "recall_at_3": 0.30648, - "recall_at_5": 0.37211, - "recall_at_10": 0.44245, - "recall_at_50": 0.5944, - "recall_at_100": 0.64611, - "recall_at_1000": 0.82332, - "precision_at_1": 0.36028, - "precision_at_3": 0.24292, - "precision_at_5": 0.19192, - "precision_at_10": 0.12531, - "precision_at_50": 0.0374, - "precision_at_100": 0.02082, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.3597, - "mrr_at_3": 0.44288, - "mrr_at_5": 0.45817, - "mrr_at_10": 0.46654, - "mrr_at_50": 0.47209, - "mrr_at_100": 0.4726, - "mrr_at_1000": 0.47308 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.56069, - "ndcg_at_3": 0.50341, - "ndcg_at_5": 0.50509, - "ndcg_at_10": 0.55292, - "ndcg_at_50": 0.62903, - "ndcg_at_100": 0.64701, - "ndcg_at_1000": 0.66362, - "map_at_1": 0.19931, - "map_at_3": 0.33377, - "map_at_5": 0.3866, - "map_at_10": 0.44029, - "map_at_50": 0.47662, - "map_at_100": 0.48015, - "map_at_1000": 0.48158, - "recall_at_1": 0.19931, - "recall_at_3": 0.38151, - "recall_at_5": 0.47339, - "recall_at_10": 0.61199, - "recall_at_50": 0.82753, - "recall_at_100": 0.90198, - "recall_at_1000": 0.99188, - "precision_at_1": 0.56069, - "precision_at_3": 0.40944, - "precision_at_5": 0.33179, - "precision_at_10": 0.2289, - "precision_at_50": 0.06422, - "precision_at_100": 0.03491, - "precision_at_1000": 0.0038, - "mrr_at_1": 0.56069, - "mrr_at_3": 0.65318, - "mrr_at_5": 0.66171, - "mrr_at_10": 0.67085, - "mrr_at_50": 0.67454, - "mrr_at_100": 0.6749, - "mrr_at_1000": 0.67502 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.57057, - "ndcg_at_3": 0.4937, - "ndcg_at_5": 0.48851, - "ndcg_at_10": 0.53207, - "ndcg_at_50": 0.62698, - "ndcg_at_100": 0.64183, - "ndcg_at_1000": 0.65773, - "map_at_1": 0.16233, - "map_at_3": 0.28317, - "map_at_5": 0.34746, - "map_at_10": 0.41115, - "map_at_50": 0.46074, - "map_at_100": 0.46355, - "map_at_1000": 0.46497, - "recall_at_1": 0.16233, - "recall_at_3": 0.32243, - "recall_at_5": 0.43216, - "recall_at_10": 0.58841, - "recall_at_50": 0.84581, - "recall_at_100": 0.90812, - "recall_at_1000": 0.9964, - "precision_at_1": 0.57057, - "precision_at_3": 0.42442, - "precision_at_5": 0.35976, - "precision_at_10": 0.25165, - "precision_at_50": 0.07477, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00427, - "mrr_at_1": 0.57057, - "mrr_at_3": 0.64515, - "mrr_at_5": 0.65836, - "mrr_at_10": 0.66768, - "mrr_at_50": 0.67231, - "mrr_at_100": 0.67261, - "mrr_at_1000": 0.67272 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.57988, - "ndcg_at_3": 0.53538, - "ndcg_at_5": 0.5128, - "ndcg_at_10": 0.5407, - "ndcg_at_50": 0.62703, - "ndcg_at_100": 0.64661, - "ndcg_at_1000": 0.66427, - "map_at_1": 0.17676, - "map_at_3": 0.31966, - "map_at_5": 0.37175, - "map_at_10": 0.43077, - "map_at_50": 0.47296, - "map_at_100": 0.47718, - "map_at_1000": 0.47873, - "recall_at_1": 0.17676, - "recall_at_3": 0.36182, - "recall_at_5": 0.44739, - "recall_at_10": 0.5739, - "recall_at_50": 0.8136, - "recall_at_100": 0.89126, - "recall_at_1000": 0.98994, - "precision_at_1": 0.57988, - "precision_at_3": 0.45464, - "precision_at_5": 0.35799, - "precision_at_10": 0.24675, - "precision_at_50": 0.07183, - "precision_at_100": 0.03914, - "precision_at_1000": 0.00424, - "mrr_at_1": 0.57988, - "mrr_at_3": 0.65976, - "mrr_at_5": 0.67175, - "mrr_at_10": 0.67753, - "mrr_at_50": 0.68239, - "mrr_at_100": 0.68266, - "mrr_at_1000": 0.68285 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.64012, - "ndcg_at_3": 0.57528, - "ndcg_at_5": 0.57455, - "ndcg_at_10": 0.6228, - "ndcg_at_50": 0.69971, - "ndcg_at_100": 0.71104, - "ndcg_at_1000": 0.72053, - "map_at_1": 0.21582, - "map_at_3": 0.38161, - "map_at_5": 0.44599, - "map_at_10": 0.50943, - "map_at_50": 0.54807, - "map_at_100": 0.55046, - "map_at_1000": 0.55127, - "recall_at_1": 0.21582, - "recall_at_3": 0.42586, - "recall_at_5": 0.53435, - "recall_at_10": 0.67783, - "recall_at_50": 0.89906, - "recall_at_100": 0.94537, - "recall_at_1000": 0.99828, - "precision_at_1": 0.64012, - "precision_at_3": 0.48476, - "precision_at_5": 0.38584, - "precision_at_10": 0.26077, - "precision_at_50": 0.07009, - "precision_at_100": 0.03681, - "precision_at_1000": 0.00385, - "mrr_at_1": 0.64012, - "mrr_at_3": 0.72222, - "mrr_at_5": 0.7324, - "mrr_at_10": 0.73699, - "mrr_at_50": 0.74103, - "mrr_at_100": 0.74131, - "mrr_at_1000": 0.74133 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.72554, - "ndcg_at_3": 0.62595, - "ndcg_at_5": 0.61822, - "ndcg_at_10": 0.66255, - "ndcg_at_50": 0.73992, - "ndcg_at_100": 0.75294, - "ndcg_at_1000": 0.75883, - "map_at_1": 0.2576, - "map_at_3": 0.41342, - "map_at_5": 0.4834, - "map_at_10": 0.54671, - "map_at_50": 0.58835, - "map_at_100": 0.59111, - "map_at_1000": 0.59175, - "recall_at_1": 0.2576, - "recall_at_3": 0.44749, - "recall_at_5": 0.56386, - "recall_at_10": 0.70949, - "recall_at_50": 0.91443, - "recall_at_100": 0.96775, - "recall_at_1000": 0.99728, - "precision_at_1": 0.72554, - "precision_at_3": 0.50634, - "precision_at_5": 0.40652, - "precision_at_10": 0.26984, - "precision_at_50": 0.07429, - "precision_at_100": 0.03921, - "precision_at_1000": 0.00403, - "mrr_at_1": 0.72554, - "mrr_at_3": 0.78668, - "mrr_at_5": 0.7962, - "mrr_at_10": 0.80158, - "mrr_at_50": 0.80334, - "mrr_at_100": 0.80359, - "mrr_at_1000": 0.80361 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.5625, - "ndcg_at_3": 0.48294, - "ndcg_at_5": 0.48912, - "ndcg_at_10": 0.52562, - "ndcg_at_50": 0.59656, - "ndcg_at_100": 0.61314, - "ndcg_at_1000": 0.63387, - "map_at_1": 0.24445, - "map_at_3": 0.35611, - "map_at_5": 0.39764, - "map_at_10": 0.433, - "map_at_50": 0.46413, - "map_at_100": 0.467, - "map_at_1000": 0.46828, - "recall_at_1": 0.24445, - "recall_at_3": 0.39118, - "recall_at_5": 0.47413, - "recall_at_10": 0.57314, - "recall_at_50": 0.78148, - "recall_at_100": 0.85765, - "recall_at_1000": 0.98948, - "precision_at_1": 0.5625, - "precision_at_3": 0.35317, - "precision_at_5": 0.27381, - "precision_at_10": 0.17619, - "precision_at_50": 0.05125, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00309, - "mrr_at_1": 0.5625, - "mrr_at_3": 0.62004, - "mrr_at_5": 0.63358, - "mrr_at_10": 0.64047, - "mrr_at_50": 0.64561, - "mrr_at_100": 0.64597, - "mrr_at_1000": 0.64626 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.5493, - "ndcg_at_3": 0.48947, - "ndcg_at_5": 0.49515, - "ndcg_at_10": 0.54213, - "ndcg_at_50": 0.61235, - "ndcg_at_100": 0.62908, - "ndcg_at_1000": 0.64418, - "map_at_1": 0.26142, - "map_at_3": 0.37374, - "map_at_5": 0.40439, - "map_at_10": 0.43728, - "map_at_50": 0.46487, - "map_at_100": 0.46769, - "map_at_1000": 0.46895, - "recall_at_1": 0.26142, - "recall_at_3": 0.43191, - "recall_at_5": 0.50051, - "recall_at_10": 0.62022, - "recall_at_50": 0.83758, - "recall_at_100": 0.91299, - "recall_at_1000": 1.0, - "precision_at_1": 0.5493, - "precision_at_3": 0.34272, - "precision_at_5": 0.24845, - "precision_at_10": 0.16, - "precision_at_50": 0.0462, - "precision_at_100": 0.02532, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.5493, - "mrr_at_3": 0.63286, - "mrr_at_5": 0.64258, - "mrr_at_10": 0.65266, - "mrr_at_50": 0.65889, - "mrr_at_100": 0.65921, - "mrr_at_1000": 0.65936 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.55462, - "ndcg_at_3": 0.50155, - "ndcg_at_5": 0.51541, - "ndcg_at_10": 0.56444, - "ndcg_at_50": 0.62914, - "ndcg_at_100": 0.64112, - "ndcg_at_1000": 0.65779, - "map_at_1": 0.2598, - "map_at_3": 0.38865, - "map_at_5": 0.4247, - "map_at_10": 0.45747, - "map_at_50": 0.48447, - "map_at_100": 0.48661, - "map_at_1000": 0.48793, - "recall_at_1": 0.2598, - "recall_at_3": 0.45479, - "recall_at_5": 0.53295, - "recall_at_10": 0.65376, - "recall_at_50": 0.85346, - "recall_at_100": 0.90463, - "recall_at_1000": 1.0, - "precision_at_1": 0.55462, - "precision_at_3": 0.35481, - "precision_at_5": 0.26162, - "precision_at_10": 0.16583, - "precision_at_50": 0.04633, - "precision_at_100": 0.02485, - "precision_at_1000": 0.00274, - "mrr_at_1": 0.55462, - "mrr_at_3": 0.64659, - "mrr_at_5": 0.6571, - "mrr_at_10": 0.66751, - "mrr_at_50": 0.6706, - "mrr_at_100": 0.67096, - "mrr_at_1000": 0.67114 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.58871, - "ndcg_at_3": 0.52678, - "ndcg_at_5": 0.53342, - "ndcg_at_10": 0.57663, - "ndcg_at_50": 0.63632, - "ndcg_at_100": 0.65694, - "ndcg_at_1000": 0.67211, - "map_at_1": 0.31293, - "map_at_3": 0.42296, - "map_at_5": 0.45093, - "map_at_10": 0.47932, - "map_at_50": 0.50258, - "map_at_100": 0.50621, - "map_at_1000": 0.50755, - "recall_at_1": 0.31293, - "recall_at_3": 0.47962, - "recall_at_5": 0.5405, - "recall_at_10": 0.64028, - "recall_at_50": 0.8241, - "recall_at_100": 0.91588, - "recall_at_1000": 1.0, - "precision_at_1": 0.58871, - "precision_at_3": 0.3405, - "precision_at_5": 0.24462, - "precision_at_10": 0.15511, - "precision_at_50": 0.04349, - "precision_at_100": 0.02457, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.58871, - "mrr_at_3": 0.66667, - "mrr_at_5": 0.67796, - "mrr_at_10": 0.68746, - "mrr_at_50": 0.69098, - "mrr_at_100": 0.69137, - "mrr_at_1000": 0.69148 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.48087, - "ndcg_at_3": 0.44558, - "ndcg_at_5": 0.44678, - "ndcg_at_10": 0.49048, - "ndcg_at_50": 0.56448, - "ndcg_at_100": 0.58464, - "ndcg_at_1000": 0.60684, - "map_at_1": 0.20693, - "map_at_3": 0.32581, - "map_at_5": 0.35637, - "map_at_10": 0.39101, - "map_at_50": 0.4229, - "map_at_100": 0.42603, - "map_at_1000": 0.42786, - "recall_at_1": 0.20693, - "recall_at_3": 0.38267, - "recall_at_5": 0.44888, - "recall_at_10": 0.56002, - "recall_at_50": 0.77914, - "recall_at_100": 0.86966, - "recall_at_1000": 0.99465, - "precision_at_1": 0.48087, - "precision_at_3": 0.33242, - "precision_at_5": 0.25082, - "precision_at_10": 0.16749, - "precision_at_50": 0.04973, - "precision_at_100": 0.02757, - "precision_at_1000": 0.00312, - "mrr_at_1": 0.48087, - "mrr_at_3": 0.56102, - "mrr_at_5": 0.57564, - "mrr_at_10": 0.5875, - "mrr_at_50": 0.59359, - "mrr_at_100": 0.59417, - "mrr_at_1000": 0.59438 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.53243, - "ndcg_at_3": 0.54597, - "ndcg_at_5": 0.57527, - "ndcg_at_10": 0.62142, - "ndcg_at_50": 0.68176, - "ndcg_at_100": 0.68951, - "ndcg_at_1000": 0.69214, - "map_at_1": 0.29028, - "map_at_3": 0.44625, - "map_at_5": 0.49118, - "map_at_10": 0.52356, - "map_at_50": 0.54845, - "map_at_100": 0.54956, - "map_at_1000": 0.54982, - "recall_at_1": 0.29028, - "recall_at_3": 0.52951, - "recall_at_5": 0.6318, - "recall_at_10": 0.74441, - "recall_at_50": 0.94473, - "recall_at_100": 0.98495, - "recall_at_1000": 1.0, - "precision_at_1": 0.53243, - "precision_at_3": 0.37297, - "precision_at_5": 0.27838, - "precision_at_10": 0.17081, - "precision_at_50": 0.04503, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00237, - "mrr_at_1": 0.53243, - "mrr_at_3": 0.64189, - "mrr_at_5": 0.65365, - "mrr_at_10": 0.66213, - "mrr_at_50": 0.66614, - "mrr_at_100": 0.66649, - "mrr_at_1000": 0.66652 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.37423, - "ndcg_at_3": 0.40573, - "ndcg_at_5": 0.45467, - "ndcg_at_10": 0.51528, - "ndcg_at_50": 0.57267, - "ndcg_at_100": 0.58245, - "ndcg_at_1000": 0.58917, - "map_at_1": 0.23423, - "map_at_3": 0.34029, - "map_at_5": 0.38045, - "map_at_10": 0.4163, - "map_at_50": 0.43607, - "map_at_100": 0.43733, - "map_at_1000": 0.43773, - "recall_at_1": 0.23423, - "recall_at_3": 0.42542, - "recall_at_5": 0.54181, - "recall_at_10": 0.69718, - "recall_at_50": 0.90332, - "recall_at_100": 0.95501, - "recall_at_1000": 1.0, - "precision_at_1": 0.37423, - "precision_at_3": 0.25153, - "precision_at_5": 0.20307, - "precision_at_10": 0.13528, - "precision_at_50": 0.03558, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00195, - "mrr_at_1": 0.37423, - "mrr_at_3": 0.46984, - "mrr_at_5": 0.4979, - "mrr_at_10": 0.51197, - "mrr_at_50": 0.51863, - "mrr_at_100": 0.51904, - "mrr_at_1000": 0.51917 - }, - "gpt3": { - "ndcg_at_1": 0.35608, - "ndcg_at_3": 0.44006, - "ndcg_at_5": 0.47981, - "ndcg_at_10": 0.52406, - "ndcg_at_50": 0.5724, - "ndcg_at_100": 0.58469, - "ndcg_at_1000": 0.59092, - "map_at_1": 0.29031, - "map_at_3": 0.39474, - "map_at_5": 0.42047, - "map_at_10": 0.44285, - "map_at_50": 0.45681, - "map_at_100": 0.45831, - "map_at_1000": 0.45866, - "recall_at_1": 0.29031, - "recall_at_3": 0.49505, - "recall_at_5": 0.58457, - "recall_at_10": 0.70227, - "recall_at_50": 0.88971, - "recall_at_100": 0.95722, - "recall_at_1000": 1.0, - "precision_at_1": 0.35608, - "precision_at_3": 0.22156, - "precision_at_5": 0.16083, - "precision_at_10": 0.10119, - "precision_at_50": 0.02611, - "precision_at_100": 0.01409, - "precision_at_1000": 0.00147, - "mrr_at_1": 0.35608, - "mrr_at_3": 0.46637, - "mrr_at_5": 0.48625, - "mrr_at_10": 0.49953, - "mrr_at_50": 0.50748, - "mrr_at_100": 0.50811, - "mrr_at_1000": 0.50826 - }, - "llm-survey": { - "ndcg_at_1": 0.42577, - "ndcg_at_3": 0.39786, - "ndcg_at_5": 0.42012, - "ndcg_at_10": 0.47252, - "ndcg_at_50": 0.54393, - "ndcg_at_100": 0.55665, - "ndcg_at_1000": 0.57559, - "map_at_1": 0.19784, - "map_at_3": 0.3072, - "map_at_5": 0.34335, - "map_at_10": 0.37845, - "map_at_50": 0.40537, - "map_at_100": 0.4073, - "map_at_1000": 0.40848, - "recall_at_1": 0.19784, - "recall_at_3": 0.36077, - "recall_at_5": 0.44652, - "recall_at_10": 0.57997, - "recall_at_50": 0.81155, - "recall_at_100": 0.87462, - "recall_at_1000": 0.99907, - "precision_at_1": 0.42577, - "precision_at_3": 0.28198, - "precision_at_5": 0.21961, - "precision_at_10": 0.15042, - "precision_at_50": 0.04392, - "precision_at_100": 0.02342, - "precision_at_1000": 0.00259, - "mrr_at_1": 0.42577, - "mrr_at_3": 0.49533, - "mrr_at_5": 0.5092, - "mrr_at_10": 0.52584, - "mrr_at_50": 0.53316, - "mrr_at_100": 0.53346, - "mrr_at_1000": 0.53381 - }, - "gemini": { - "ndcg_at_1": 0.41365, - "ndcg_at_3": 0.54398, - "ndcg_at_5": 0.56195, - "ndcg_at_10": 0.5835, - "ndcg_at_50": 0.62199, - "ndcg_at_100": 0.62782, - "ndcg_at_1000": 0.63389, - "map_at_1": 0.41365, - "map_at_3": 0.51138, - "map_at_5": 0.52122, - "map_at_10": 0.53055, - "map_at_50": 0.5389, - "map_at_100": 0.53941, - "map_at_1000": 0.5397, - "recall_at_1": 0.41365, - "recall_at_3": 0.63855, - "recall_at_5": 0.68273, - "recall_at_10": 0.74699, - "recall_at_50": 0.91968, - "recall_at_100": 0.95582, - "recall_at_1000": 1.0, - "precision_at_1": 0.41365, - "precision_at_3": 0.21285, - "precision_at_5": 0.13655, - "precision_at_10": 0.0747, - "precision_at_50": 0.01839, - "precision_at_100": 0.00956, - "precision_at_1000": 0.001, - "mrr_at_1": 0.41365, - "mrr_at_3": 0.51138, - "mrr_at_5": 0.52122, - "mrr_at_10": 0.53055, - "mrr_at_50": 0.5389, - "mrr_at_100": 0.53941, - "mrr_at_1000": 0.5397 - } - } - } - } - }, - "[jina-reranker-v1-turbo-en](https://huggingface.co/jinaai/jina-reranker-v1-turbo-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.28855, - "ndcg_at_3": 0.278, - "ndcg_at_5": 0.28783, - "ndcg_at_10": 0.33971, - "ndcg_at_50": 0.46004, - "ndcg_at_100": 0.49175, - "ndcg_at_1000": 0.49175, - "map_at_1": 0.11364, - "map_at_3": 0.18014, - "map_at_5": 0.20757, - "map_at_10": 0.24369, - "map_at_50": 0.28752, - "map_at_100": 0.29334, - "map_at_1000": 0.29334, - "recall_at_1": 0.11364, - "recall_at_3": 0.2262, - "recall_at_5": 0.29372, - "recall_at_10": 0.42922, - "recall_at_50": 0.80354, - "recall_at_100": 0.94178, - "recall_at_1000": 0.94178, - "precision_at_1": 0.28855, - "precision_at_3": 0.21953, - "precision_at_5": 0.1815, - "precision_at_10": 0.13866, - "precision_at_50": 0.05519, - "precision_at_100": 0.03204, - "precision_at_1000": 0.0032, - "mrr_at_1": 0.28855, - "mrr_at_3": 0.37188, - "mrr_at_5": 0.39157, - "mrr_at_10": 0.40952, - "mrr_at_50": 0.42108, - "mrr_at_100": 0.42189, - "mrr_at_1000": 0.42189 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.25652, - "ndcg_at_3": 0.23791, - "ndcg_at_5": 0.24206, - "ndcg_at_10": 0.26099, - "ndcg_at_50": 0.29531, - "ndcg_at_100": 0.29926, - "ndcg_at_1000": 0.29926, - "map_at_1": 0.09295, - "map_at_3": 0.15307, - "map_at_5": 0.17773, - "map_at_10": 0.20314, - "map_at_50": 0.21921, - "map_at_100": 0.21977, - "map_at_1000": 0.21977, - "recall_at_1": 0.09295, - "recall_at_3": 0.18226, - "recall_at_5": 0.2313, - "recall_at_10": 0.29751, - "recall_at_50": 0.3938, - "recall_at_100": 0.41164, - "recall_at_1000": 0.41164, - "precision_at_1": 0.25652, - "precision_at_3": 0.19026, - "precision_at_5": 0.15713, - "precision_at_10": 0.10894, - "precision_at_50": 0.03017, - "precision_at_100": 0.01562, - "precision_at_1000": 0.00156, - "mrr_at_1": 0.25652, - "mrr_at_3": 0.30437, - "mrr_at_5": 0.31533, - "mrr_at_10": 0.32207, - "mrr_at_50": 0.32511, - "mrr_at_100": 0.32534, - "mrr_at_1000": 0.32534 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.21509, - "ndcg_at_3": 0.21535, - "ndcg_at_5": 0.22487, - "ndcg_at_10": 0.25768, - "ndcg_at_50": 0.36066, - "ndcg_at_100": 0.38406, - "ndcg_at_1000": 0.38406, - "map_at_1": 0.06347, - "map_at_3": 0.11466, - "map_at_5": 0.14156, - "map_at_10": 0.17162, - "map_at_50": 0.21126, - "map_at_100": 0.21567, - "map_at_1000": 0.21567, - "recall_at_1": 0.06347, - "recall_at_3": 0.15193, - "recall_at_5": 0.21597, - "recall_at_10": 0.31429, - "recall_at_50": 0.59772, - "recall_at_100": 0.68613, - "recall_at_1000": 0.68613, - "precision_at_1": 0.21509, - "precision_at_3": 0.18975, - "precision_at_5": 0.17042, - "precision_at_10": 0.13377, - "precision_at_50": 0.05463, - "precision_at_100": 0.03148, - "precision_at_1000": 0.00315, - "mrr_at_1": 0.21509, - "mrr_at_3": 0.29454, - "mrr_at_5": 0.31829, - "mrr_at_10": 0.335, - "mrr_at_50": 0.34592, - "mrr_at_100": 0.3465, - "mrr_at_1000": 0.3465 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.4777, - "ndcg_at_3": 0.46465, - "ndcg_at_5": 0.47417, - "ndcg_at_10": 0.50419, - "ndcg_at_50": 0.55512, - "ndcg_at_100": 0.56027, - "ndcg_at_1000": 0.56027, - "map_at_1": 0.20913, - "map_at_3": 0.31952, - "map_at_5": 0.36716, - "map_at_10": 0.41667, - "map_at_50": 0.4449, - "map_at_100": 0.44581, - "map_at_1000": 0.44581, - "recall_at_1": 0.20913, - "recall_at_3": 0.36527, - "recall_at_5": 0.45413, - "recall_at_10": 0.56582, - "recall_at_50": 0.70031, - "recall_at_100": 0.72249, - "recall_at_1000": 0.72249, - "precision_at_1": 0.4777, - "precision_at_3": 0.34882, - "precision_at_5": 0.28761, - "precision_at_10": 0.20099, - "precision_at_50": 0.05382, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.4777, - "mrr_at_3": 0.55607, - "mrr_at_5": 0.57094, - "mrr_at_10": 0.57869, - "mrr_at_50": 0.58176, - "mrr_at_100": 0.58198, - "mrr_at_1000": 0.58198 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.56148, - "ndcg_at_3": 0.52423, - "ndcg_at_5": 0.51239, - "ndcg_at_10": 0.53593, - "ndcg_at_50": 0.62507, - "ndcg_at_100": 0.63494, - "ndcg_at_1000": 0.63494, - "map_at_1": 0.154, - "map_at_3": 0.2876, - "map_at_5": 0.35271, - "map_at_10": 0.42437, - "map_at_50": 0.47548, - "map_at_100": 0.47782, - "map_at_1000": 0.47782, - "recall_at_1": 0.154, - "recall_at_3": 0.32643, - "recall_at_5": 0.42771, - "recall_at_10": 0.57087, - "recall_at_50": 0.79266, - "recall_at_100": 0.82931, - "recall_at_1000": 0.82931, - "precision_at_1": 0.56148, - "precision_at_3": 0.46115, - "precision_at_5": 0.39206, - "precision_at_10": 0.28302, - "precision_at_50": 0.08293, - "precision_at_100": 0.04329, - "precision_at_1000": 0.00433, - "mrr_at_1": 0.56148, - "mrr_at_3": 0.64235, - "mrr_at_5": 0.65571, - "mrr_at_10": 0.6631, - "mrr_at_50": 0.66695, - "mrr_at_100": 0.66711, - "mrr_at_1000": 0.66711 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.29456, - "ndcg_at_3": 0.25708, - "ndcg_at_5": 0.24537, - "ndcg_at_10": 0.26588, - "ndcg_at_50": 0.37469, - "ndcg_at_100": 0.39942, - "ndcg_at_1000": 0.39942, - "map_at_1": 0.06046, - "map_at_3": 0.10979, - "map_at_5": 0.13492, - "map_at_10": 0.16577, - "map_at_50": 0.2082, - "map_at_100": 0.2134, - "map_at_1000": 0.2134, - "recall_at_1": 0.06046, - "recall_at_3": 0.1376, - "recall_at_5": 0.19269, - "recall_at_10": 0.28604, - "recall_at_50": 0.56324, - "recall_at_100": 0.65031, - "recall_at_1000": 0.65031, - "precision_at_1": 0.29456, - "precision_at_3": 0.23586, - "precision_at_5": 0.20406, - "precision_at_10": 0.15704, - "precision_at_50": 0.06424, - "precision_at_100": 0.03697, - "precision_at_1000": 0.0037, - "mrr_at_1": 0.29456, - "mrr_at_3": 0.37958, - "mrr_at_5": 0.40207, - "mrr_at_10": 0.41826, - "mrr_at_50": 0.42794, - "mrr_at_100": 0.42831, - "mrr_at_1000": 0.42831 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.48506, - "ndcg_at_3": 0.45301, - "ndcg_at_5": 0.46477, - "ndcg_at_10": 0.50729, - "ndcg_at_50": 0.5635, - "ndcg_at_100": 0.56993, - "ndcg_at_1000": 0.56993, - "map_at_1": 0.2122, - "map_at_3": 0.33848, - "map_at_5": 0.37686, - "map_at_10": 0.41306, - "map_at_50": 0.436, - "map_at_100": 0.43703, - "map_at_1000": 0.43703, - "recall_at_1": 0.2122, - "recall_at_3": 0.39221, - "recall_at_5": 0.47097, - "recall_at_10": 0.5839, - "recall_at_50": 0.75631, - "recall_at_100": 0.78533, - "recall_at_1000": 0.78533, - "precision_at_1": 0.48506, - "precision_at_3": 0.33685, - "precision_at_5": 0.25835, - "precision_at_10": 0.16948, - "precision_at_50": 0.0456, - "precision_at_100": 0.02363, - "precision_at_1000": 0.00236, - "mrr_at_1": 0.48506, - "mrr_at_3": 0.56346, - "mrr_at_5": 0.57676, - "mrr_at_10": 0.58665, - "mrr_at_50": 0.5918, - "mrr_at_100": 0.59206, - "mrr_at_1000": 0.59206 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.21274, - "ndcg_at_3": 0.20217, - "ndcg_at_5": 0.19877, - "ndcg_at_10": 0.22366, - "ndcg_at_50": 0.29894, - "ndcg_at_100": 0.31401, - "ndcg_at_1000": 0.31401, - "map_at_1": 0.05604, - "map_at_3": 0.09885, - "map_at_5": 0.11906, - "map_at_10": 0.14441, - "map_at_50": 0.17211, - "map_at_100": 0.17471, - "map_at_1000": 0.17471, - "recall_at_1": 0.05604, - "recall_at_3": 0.12751, - "recall_at_5": 0.17327, - "recall_at_10": 0.2547, - "recall_at_50": 0.45903, - "recall_at_100": 0.51582, - "recall_at_1000": 0.51582, - "precision_at_1": 0.21274, - "precision_at_3": 0.18079, - "precision_at_5": 0.15479, - "precision_at_10": 0.11939, - "precision_at_50": 0.0447, - "precision_at_100": 0.02497, - "precision_at_1000": 0.0025, - "mrr_at_1": 0.21274, - "mrr_at_3": 0.29326, - "mrr_at_5": 0.30941, - "mrr_at_10": 0.32417, - "mrr_at_50": 0.33338, - "mrr_at_100": 0.33401, - "mrr_at_1000": 0.33401 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.44543, - "ndcg_at_3": 0.46464, - "ndcg_at_5": 0.48682, - "ndcg_at_10": 0.51455, - "ndcg_at_50": 0.54883, - "ndcg_at_100": 0.55287, - "ndcg_at_1000": 0.55287, - "map_at_1": 0.27452, - "map_at_3": 0.38892, - "map_at_5": 0.42546, - "map_at_10": 0.45365, - "map_at_50": 0.46859, - "map_at_100": 0.4691, - "map_at_1000": 0.4691, - "recall_at_1": 0.27452, - "recall_at_3": 0.4475, - "recall_at_5": 0.52558, - "recall_at_10": 0.60375, - "recall_at_50": 0.71439, - "recall_at_100": 0.73631, - "recall_at_1000": 0.73631, - "precision_at_1": 0.44543, - "precision_at_3": 0.28644, - "precision_at_5": 0.21943, - "precision_at_10": 0.13754, - "precision_at_50": 0.03404, - "precision_at_100": 0.01738, - "precision_at_1000": 0.00174, - "mrr_at_1": 0.44543, - "mrr_at_3": 0.51083, - "mrr_at_5": 0.52275, - "mrr_at_10": 0.52807, - "mrr_at_50": 0.53165, - "mrr_at_100": 0.53193, - "mrr_at_1000": 0.53193 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.46278, - "ndcg_at_3": 0.43225, - "ndcg_at_5": 0.44672, - "ndcg_at_10": 0.48775, - "ndcg_at_50": 0.54595, - "ndcg_at_100": 0.55623, - "ndcg_at_1000": 0.55623, - "map_at_1": 0.24353, - "map_at_3": 0.33496, - "map_at_5": 0.36185, - "map_at_10": 0.38976, - "map_at_50": 0.41181, - "map_at_100": 0.41361, - "map_at_1000": 0.41361, - "recall_at_1": 0.24353, - "recall_at_3": 0.40139, - "recall_at_5": 0.47072, - "recall_at_10": 0.5747, - "recall_at_50": 0.75145, - "recall_at_100": 0.79398, - "recall_at_1000": 0.79398, - "precision_at_1": 0.46278, - "precision_at_3": 0.2833, - "precision_at_5": 0.21084, - "precision_at_10": 0.13764, - "precision_at_50": 0.04015, - "precision_at_100": 0.02166, - "precision_at_1000": 0.00217, - "mrr_at_1": 0.46278, - "mrr_at_3": 0.55331, - "mrr_at_5": 0.57061, - "mrr_at_10": 0.58183, - "mrr_at_50": 0.58664, - "mrr_at_100": 0.58685, - "mrr_at_1000": 0.58685 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.64679, - "ndcg_at_3": 0.59991, - "ndcg_at_5": 0.61099, - "ndcg_at_10": 0.63665, - "ndcg_at_50": 0.65877, - "ndcg_at_100": 0.66008, - "ndcg_at_1000": 0.66008, - "map_at_1": 0.3821, - "map_at_3": 0.50381, - "map_at_5": 0.53576, - "map_at_10": 0.55982, - "map_at_50": 0.57016, - "map_at_100": 0.57041, - "map_at_1000": 0.57041, - "recall_at_1": 0.3821, - "recall_at_3": 0.55157, - "recall_at_5": 0.61753, - "recall_at_10": 0.68499, - "recall_at_50": 0.75099, - "recall_at_100": 0.75643, - "recall_at_1000": 0.75643, - "precision_at_1": 0.64679, - "precision_at_3": 0.36846, - "precision_at_5": 0.26265, - "precision_at_10": 0.15594, - "precision_at_50": 0.03578, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00181, - "mrr_at_1": 0.64679, - "mrr_at_3": 0.71067, - "mrr_at_5": 0.71991, - "mrr_at_10": 0.7242, - "mrr_at_50": 0.72574, - "mrr_at_100": 0.72576, - "mrr_at_1000": 0.72576 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.48007, - "ndcg_at_3": 0.42525, - "ndcg_at_5": 0.42954, - "ndcg_at_10": 0.46014, - "ndcg_at_50": 0.49527, - "ndcg_at_100": 0.49727, - "ndcg_at_1000": 0.49727, - "map_at_1": 0.19992, - "map_at_3": 0.29647, - "map_at_5": 0.33239, - "map_at_10": 0.36446, - "map_at_50": 0.3805, - "map_at_100": 0.38078, - "map_at_1000": 0.38078, - "recall_at_1": 0.19992, - "recall_at_3": 0.34439, - "recall_at_5": 0.41836, - "recall_at_10": 0.50993, - "recall_at_50": 0.61243, - "recall_at_100": 0.62217, - "recall_at_1000": 0.62217, - "precision_at_1": 0.48007, - "precision_at_3": 0.31619, - "precision_at_5": 0.24737, - "precision_at_10": 0.15991, - "precision_at_50": 0.03934, - "precision_at_100": 0.01991, - "precision_at_1000": 0.00199, - "mrr_at_1": 0.48007, - "mrr_at_3": 0.55661, - "mrr_at_5": 0.57039, - "mrr_at_10": 0.57652, - "mrr_at_50": 0.5798, - "mrr_at_100": 0.57991, - "mrr_at_1000": 0.57991 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.30481, - "ndcg_at_3": 0.30626, - "ndcg_at_5": 0.32121, - "ndcg_at_10": 0.35182, - "ndcg_at_50": 0.43549, - "ndcg_at_100": 0.45198, - "ndcg_at_1000": 0.45198, - "map_at_1": 0.1246, - "map_at_3": 0.1951, - "map_at_5": 0.22677, - "map_at_10": 0.256, - "map_at_50": 0.2895, - "map_at_100": 0.29264, - "map_at_1000": 0.29264, - "recall_at_1": 0.1246, - "recall_at_3": 0.24861, - "recall_at_5": 0.3275, - "recall_at_10": 0.42323, - "recall_at_50": 0.66165, - "recall_at_100": 0.72594, - "recall_at_1000": 0.72594, - "precision_at_1": 0.30481, - "precision_at_3": 0.23906, - "precision_at_5": 0.20285, - "precision_at_10": 0.14522, - "precision_at_50": 0.05011, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.30481, - "mrr_at_3": 0.40216, - "mrr_at_5": 0.42521, - "mrr_at_10": 0.43758, - "mrr_at_50": 0.44543, - "mrr_at_100": 0.44585, - "mrr_at_1000": 0.44585 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.48096, - "ndcg_at_3": 0.45462, - "ndcg_at_5": 0.45613, - "ndcg_at_10": 0.4801, - "ndcg_at_50": 0.5147, - "ndcg_at_100": 0.51868, - "ndcg_at_1000": 0.51868, - "map_at_1": 0.23299, - "map_at_3": 0.3266, - "map_at_5": 0.36119, - "map_at_10": 0.39319, - "map_at_50": 0.40993, - "map_at_100": 0.41052, - "map_at_1000": 0.41052, - "recall_at_1": 0.23299, - "recall_at_3": 0.38115, - "recall_at_5": 0.44851, - "recall_at_10": 0.53343, - "recall_at_50": 0.62876, - "recall_at_100": 0.64611, - "recall_at_1000": 0.64611, - "precision_at_1": 0.48096, - "precision_at_3": 0.31634, - "precision_at_5": 0.24534, - "precision_at_10": 0.16011, - "precision_at_50": 0.04055, - "precision_at_100": 0.02082, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.48096, - "mrr_at_3": 0.55839, - "mrr_at_5": 0.57037, - "mrr_at_10": 0.57695, - "mrr_at_50": 0.57931, - "mrr_at_100": 0.57954, - "mrr_at_1000": 0.57954 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.54913, - "ndcg_at_3": 0.4896, - "ndcg_at_5": 0.50431, - "ndcg_at_10": 0.55364, - "ndcg_at_50": 0.6337, - "ndcg_at_100": 0.64361, - "ndcg_at_1000": 0.64361, - "map_at_1": 0.17101, - "map_at_3": 0.3083, - "map_at_5": 0.37674, - "map_at_10": 0.43658, - "map_at_50": 0.47519, - "map_at_100": 0.47714, - "map_at_1000": 0.47714, - "recall_at_1": 0.17101, - "recall_at_3": 0.3602, - "recall_at_5": 0.48302, - "recall_at_10": 0.63098, - "recall_at_50": 0.8583, - "recall_at_100": 0.90198, - "recall_at_1000": 0.90198, - "precision_at_1": 0.54913, - "precision_at_3": 0.41137, - "precision_at_5": 0.35376, - "precision_at_10": 0.24162, - "precision_at_50": 0.06717, - "precision_at_100": 0.03491, - "precision_at_1000": 0.00349, - "mrr_at_1": 0.54913, - "mrr_at_3": 0.63247, - "mrr_at_5": 0.65053, - "mrr_at_10": 0.65937, - "mrr_at_50": 0.66373, - "mrr_at_100": 0.66396, - "mrr_at_1000": 0.66396 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.54955, - "ndcg_at_3": 0.49907, - "ndcg_at_5": 0.48214, - "ndcg_at_10": 0.52825, - "ndcg_at_50": 0.62426, - "ndcg_at_100": 0.63811, - "ndcg_at_1000": 0.63811, - "map_at_1": 0.14855, - "map_at_3": 0.29133, - "map_at_5": 0.34899, - "map_at_10": 0.41846, - "map_at_50": 0.46539, - "map_at_100": 0.46809, - "map_at_1000": 0.46809, - "recall_at_1": 0.14855, - "recall_at_3": 0.32847, - "recall_at_5": 0.419, - "recall_at_10": 0.57619, - "recall_at_50": 0.84686, - "recall_at_100": 0.90812, - "recall_at_1000": 0.90812, - "precision_at_1": 0.54955, - "precision_at_3": 0.43744, - "precision_at_5": 0.35856, - "precision_at_10": 0.25826, - "precision_at_50": 0.07574, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.54955, - "mrr_at_3": 0.62462, - "mrr_at_5": 0.63438, - "mrr_at_10": 0.64667, - "mrr_at_50": 0.65163, - "mrr_at_100": 0.65206, - "mrr_at_1000": 0.65206 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.62426, - "ndcg_at_3": 0.57554, - "ndcg_at_5": 0.56205, - "ndcg_at_10": 0.59628, - "ndcg_at_50": 0.67809, - "ndcg_at_100": 0.68528, - "ndcg_at_1000": 0.68528, - "map_at_1": 0.19301, - "map_at_3": 0.3542, - "map_at_5": 0.42156, - "map_at_10": 0.48891, - "map_at_50": 0.5345, - "map_at_100": 0.53573, - "map_at_1000": 0.53573, - "recall_at_1": 0.19301, - "recall_at_3": 0.39586, - "recall_at_5": 0.50288, - "recall_at_10": 0.63937, - "recall_at_50": 0.85879, - "recall_at_100": 0.89126, - "recall_at_1000": 0.89126, - "precision_at_1": 0.62426, - "precision_at_3": 0.49112, - "precision_at_5": 0.39941, - "precision_at_10": 0.27426, - "precision_at_50": 0.07639, - "precision_at_100": 0.03914, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.62426, - "mrr_at_3": 0.69329, - "mrr_at_5": 0.70557, - "mrr_at_10": 0.71074, - "mrr_at_50": 0.7139, - "mrr_at_100": 0.71423, - "mrr_at_1000": 0.71423 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.61947, - "ndcg_at_3": 0.55322, - "ndcg_at_5": 0.55454, - "ndcg_at_10": 0.61144, - "ndcg_at_50": 0.69236, - "ndcg_at_100": 0.70113, - "ndcg_at_1000": 0.70113, - "map_at_1": 0.20348, - "map_at_3": 0.36671, - "map_at_5": 0.43044, - "map_at_10": 0.50059, - "map_at_50": 0.54183, - "map_at_100": 0.54346, - "map_at_1000": 0.54346, - "recall_at_1": 0.20348, - "recall_at_3": 0.40678, - "recall_at_5": 0.51864, - "recall_at_10": 0.67445, - "recall_at_50": 0.90526, - "recall_at_100": 0.94537, - "recall_at_1000": 0.94537, - "precision_at_1": 0.61947, - "precision_at_3": 0.46903, - "precision_at_5": 0.37463, - "precision_at_10": 0.26313, - "precision_at_50": 0.07133, - "precision_at_100": 0.03681, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.61652, - "mrr_at_3": 0.6942, - "mrr_at_5": 0.70865, - "mrr_at_10": 0.71361, - "mrr_at_50": 0.71813, - "mrr_at_100": 0.7184, - "mrr_at_1000": 0.7184 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.75543, - "ndcg_at_3": 0.68773, - "ndcg_at_5": 0.68753, - "ndcg_at_10": 0.73065, - "ndcg_at_50": 0.7982, - "ndcg_at_100": 0.80145, - "ndcg_at_1000": 0.80145, - "map_at_1": 0.27228, - "map_at_3": 0.46379, - "map_at_5": 0.55037, - "map_at_10": 0.62266, - "map_at_50": 0.6649, - "map_at_100": 0.66561, - "map_at_1000": 0.66561, - "recall_at_1": 0.27228, - "recall_at_3": 0.5032, - "recall_at_5": 0.63657, - "recall_at_10": 0.77979, - "recall_at_50": 0.95515, - "recall_at_100": 0.96775, - "recall_at_1000": 0.96775, - "precision_at_1": 0.75543, - "precision_at_3": 0.56793, - "precision_at_5": 0.46413, - "precision_at_10": 0.3038, - "precision_at_50": 0.07739, - "precision_at_100": 0.03921, - "precision_at_1000": 0.00392, - "mrr_at_1": 0.75543, - "mrr_at_3": 0.82518, - "mrr_at_5": 0.83279, - "mrr_at_10": 0.83678, - "mrr_at_50": 0.83831, - "mrr_at_100": 0.83836, - "mrr_at_1000": 0.83836 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.57738, - "ndcg_at_3": 0.52551, - "ndcg_at_5": 0.53516, - "ndcg_at_10": 0.57755, - "ndcg_at_50": 0.63766, - "ndcg_at_100": 0.64469, - "ndcg_at_1000": 0.64469, - "map_at_1": 0.242, - "map_at_3": 0.39082, - "map_at_5": 0.44303, - "map_at_10": 0.48623, - "map_at_50": 0.51477, - "map_at_100": 0.51606, - "map_at_1000": 0.51606, - "recall_at_1": 0.242, - "recall_at_3": 0.43375, - "recall_at_5": 0.53094, - "recall_at_10": 0.64558, - "recall_at_50": 0.82574, - "recall_at_100": 0.85765, - "recall_at_1000": 0.85765, - "precision_at_1": 0.57738, - "precision_at_3": 0.40179, - "precision_at_5": 0.31548, - "precision_at_10": 0.20446, - "precision_at_50": 0.05393, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.57738, - "mrr_at_3": 0.63641, - "mrr_at_5": 0.64906, - "mrr_at_10": 0.6574, - "mrr_at_50": 0.66131, - "mrr_at_100": 0.66154, - "mrr_at_1000": 0.66154 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.65915, - "ndcg_at_3": 0.60015, - "ndcg_at_5": 0.6154, - "ndcg_at_10": 0.66509, - "ndcg_at_50": 0.71455, - "ndcg_at_100": 0.71835, - "ndcg_at_1000": 0.71835, - "map_at_1": 0.31009, - "map_at_3": 0.47213, - "map_at_5": 0.52121, - "map_at_10": 0.56178, - "map_at_50": 0.58546, - "map_at_100": 0.58619, - "map_at_1000": 0.58619, - "recall_at_1": 0.31009, - "recall_at_3": 0.53837, - "recall_at_5": 0.62946, - "recall_at_10": 0.74839, - "recall_at_50": 0.89628, - "recall_at_100": 0.91299, - "recall_at_1000": 0.91299, - "precision_at_1": 0.65915, - "precision_at_3": 0.42629, - "precision_at_5": 0.31775, - "precision_at_10": 0.19944, - "precision_at_50": 0.04969, - "precision_at_100": 0.02532, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.65915, - "mrr_at_3": 0.74507, - "mrr_at_5": 0.75183, - "mrr_at_10": 0.7591, - "mrr_at_50": 0.76113, - "mrr_at_100": 0.76123, - "mrr_at_1000": 0.76123 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.65266, - "ndcg_at_3": 0.57733, - "ndcg_at_5": 0.60363, - "ndcg_at_10": 0.65749, - "ndcg_at_50": 0.70589, - "ndcg_at_100": 0.70831, - "ndcg_at_1000": 0.70831, - "map_at_1": 0.31363, - "map_at_3": 0.46066, - "map_at_5": 0.5101, - "map_at_10": 0.55581, - "map_at_50": 0.57713, - "map_at_100": 0.57754, - "map_at_1000": 0.57754, - "recall_at_1": 0.31363, - "recall_at_3": 0.51436, - "recall_at_5": 0.62268, - "recall_at_10": 0.74607, - "recall_at_50": 0.89366, - "recall_at_100": 0.90463, - "recall_at_1000": 0.90463, - "precision_at_1": 0.65266, - "precision_at_3": 0.39963, - "precision_at_5": 0.30588, - "precision_at_10": 0.19804, - "precision_at_50": 0.04908, - "precision_at_100": 0.02485, - "precision_at_1000": 0.00248, - "mrr_at_1": 0.65266, - "mrr_at_3": 0.72222, - "mrr_at_5": 0.73623, - "mrr_at_10": 0.74133, - "mrr_at_50": 0.74466, - "mrr_at_100": 0.7447, - "mrr_at_1000": 0.7447 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.65323, - "ndcg_at_3": 0.60503, - "ndcg_at_5": 0.62896, - "ndcg_at_10": 0.67112, - "ndcg_at_50": 0.72209, - "ndcg_at_100": 0.72775, - "ndcg_at_1000": 0.72775, - "map_at_1": 0.36288, - "map_at_3": 0.50197, - "map_at_5": 0.54809, - "map_at_10": 0.58194, - "map_at_50": 0.60497, - "map_at_100": 0.60588, - "map_at_1000": 0.60588, - "recall_at_1": 0.36288, - "recall_at_3": 0.54777, - "recall_at_5": 0.64544, - "recall_at_10": 0.73745, - "recall_at_50": 0.88871, - "recall_at_100": 0.91588, - "recall_at_1000": 0.91588, - "precision_at_1": 0.65323, - "precision_at_3": 0.39606, - "precision_at_5": 0.3, - "precision_at_10": 0.18683, - "precision_at_50": 0.0478, - "precision_at_100": 0.02457, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.65323, - "mrr_at_3": 0.72715, - "mrr_at_5": 0.74274, - "mrr_at_10": 0.74616, - "mrr_at_50": 0.74934, - "mrr_at_100": 0.74949, - "mrr_at_1000": 0.74949 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.47814, - "ndcg_at_3": 0.43222, - "ndcg_at_5": 0.4467, - "ndcg_at_10": 0.49851, - "ndcg_at_50": 0.57729, - "ndcg_at_100": 0.58843, - "ndcg_at_1000": 0.58843, - "map_at_1": 0.20295, - "map_at_3": 0.30895, - "map_at_5": 0.35272, - "map_at_10": 0.39625, - "map_at_50": 0.42937, - "map_at_100": 0.43131, - "map_at_1000": 0.43131, - "recall_at_1": 0.20295, - "recall_at_3": 0.35336, - "recall_at_5": 0.44726, - "recall_at_10": 0.57589, - "recall_at_50": 0.8194, - "recall_at_100": 0.86966, - "recall_at_1000": 0.86966, - "precision_at_1": 0.47814, - "precision_at_3": 0.32878, - "precision_at_5": 0.26393, - "precision_at_10": 0.18142, - "precision_at_50": 0.0523, - "precision_at_100": 0.02757, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.47814, - "mrr_at_3": 0.55738, - "mrr_at_5": 0.57609, - "mrr_at_10": 0.5866, - "mrr_at_50": 0.59331, - "mrr_at_100": 0.5937, - "mrr_at_1000": 0.5937 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.53514, - "ndcg_at_3": 0.5363, - "ndcg_at_5": 0.57619, - "ndcg_at_10": 0.63676, - "ndcg_at_50": 0.6921, - "ndcg_at_100": 0.69802, - "ndcg_at_1000": 0.69802, - "map_at_1": 0.30069, - "map_at_3": 0.43876, - "map_at_5": 0.49127, - "map_at_10": 0.53679, - "map_at_50": 0.5602, - "map_at_100": 0.56105, - "map_at_1000": 0.56105, - "recall_at_1": 0.30069, - "recall_at_3": 0.51895, - "recall_at_5": 0.6346, - "recall_at_10": 0.77715, - "recall_at_50": 0.95392, - "recall_at_100": 0.98495, - "recall_at_1000": 0.98495, - "precision_at_1": 0.53514, - "precision_at_3": 0.35225, - "precision_at_5": 0.27622, - "precision_at_10": 0.18, - "precision_at_50": 0.04546, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.53514, - "mrr_at_3": 0.63694, - "mrr_at_5": 0.6541, - "mrr_at_10": 0.66275, - "mrr_at_50": 0.66801, - "mrr_at_100": 0.66823, - "mrr_at_1000": 0.66823 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.42025, - "ndcg_at_3": 0.46225, - "ndcg_at_5": 0.49914, - "ndcg_at_10": 0.55606, - "ndcg_at_50": 0.60903, - "ndcg_at_100": 0.61739, - "ndcg_at_1000": 0.61739, - "map_at_1": 0.26043, - "map_at_3": 0.39076, - "map_at_5": 0.42739, - "map_at_10": 0.46428, - "map_at_50": 0.48187, - "map_at_100": 0.48295, - "map_at_1000": 0.48295, - "recall_at_1": 0.26043, - "recall_at_3": 0.48247, - "recall_at_5": 0.5794, - "recall_at_10": 0.71858, - "recall_at_50": 0.91043, - "recall_at_100": 0.95501, - "recall_at_1000": 0.95501, - "precision_at_1": 0.42025, - "precision_at_3": 0.2863, - "precision_at_5": 0.21595, - "precision_at_10": 0.14172, - "precision_at_50": 0.03601, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.42025, - "mrr_at_3": 0.52454, - "mrr_at_5": 0.54248, - "mrr_at_10": 0.55397, - "mrr_at_50": 0.56189, - "mrr_at_100": 0.56226, - "mrr_at_1000": 0.56226 - }, - "gpt3": { - "ndcg_at_1": 0.35905, - "ndcg_at_3": 0.4474, - "ndcg_at_5": 0.49826, - "ndcg_at_10": 0.54229, - "ndcg_at_50": 0.59083, - "ndcg_at_100": 0.59583, - "ndcg_at_1000": 0.59583, - "map_at_1": 0.28437, - "map_at_3": 0.39775, - "map_at_5": 0.43195, - "map_at_10": 0.45471, - "map_at_50": 0.46852, - "map_at_100": 0.46906, - "map_at_1000": 0.46906, - "recall_at_1": 0.28437, - "recall_at_3": 0.50643, - "recall_at_5": 0.61647, - "recall_at_10": 0.73318, - "recall_at_50": 0.92903, - "recall_at_100": 0.95722, - "recall_at_1000": 0.95722, - "precision_at_1": 0.35905, - "precision_at_3": 0.22849, - "precision_at_5": 0.17329, - "precision_at_10": 0.10623, - "precision_at_50": 0.02736, - "precision_at_100": 0.01409, - "precision_at_1000": 0.00141, - "mrr_at_1": 0.35905, - "mrr_at_3": 0.47774, - "mrr_at_5": 0.50148, - "mrr_at_10": 0.51501, - "mrr_at_50": 0.52134, - "mrr_at_100": 0.52166, - "mrr_at_1000": 0.52166 - }, - "llm-survey": { - "ndcg_at_1": 0.46218, - "ndcg_at_3": 0.44373, - "ndcg_at_5": 0.46171, - "ndcg_at_10": 0.509, - "ndcg_at_50": 0.57511, - "ndcg_at_100": 0.5867, - "ndcg_at_1000": 0.5867, - "map_at_1": 0.22343, - "map_at_3": 0.34514, - "map_at_5": 0.38094, - "map_at_10": 0.41835, - "map_at_50": 0.44505, - "map_at_100": 0.44665, - "map_at_1000": 0.44665, - "recall_at_1": 0.22343, - "recall_at_3": 0.40233, - "recall_at_5": 0.47893, - "recall_at_10": 0.59611, - "recall_at_50": 0.81622, - "recall_at_100": 0.87462, - "recall_at_1000": 0.87462, - "precision_at_1": 0.46218, - "precision_at_3": 0.32493, - "precision_at_5": 0.24538, - "precision_at_10": 0.16246, - "precision_at_50": 0.04448, - "precision_at_100": 0.02342, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.46218, - "mrr_at_3": 0.54482, - "mrr_at_5": 0.55728, - "mrr_at_10": 0.56747, - "mrr_at_50": 0.57344, - "mrr_at_100": 0.57395, - "mrr_at_1000": 0.57395 - }, - "gemini": { - "ndcg_at_1": 0.41767, - "ndcg_at_3": 0.53595, - "ndcg_at_5": 0.57605, - "ndcg_at_10": 0.60151, - "ndcg_at_50": 0.6325, - "ndcg_at_100": 0.63647, - "ndcg_at_1000": 0.63647, - "map_at_1": 0.41767, - "map_at_3": 0.50736, - "map_at_5": 0.52985, - "map_at_10": 0.54006, - "map_at_50": 0.54714, - "map_at_100": 0.54751, - "map_at_1000": 0.54751, - "recall_at_1": 0.41767, - "recall_at_3": 0.61847, - "recall_at_5": 0.71486, - "recall_at_10": 0.79518, - "recall_at_50": 0.93173, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.41767, - "precision_at_3": 0.20616, - "precision_at_5": 0.14297, - "precision_at_10": 0.07952, - "precision_at_50": 0.01863, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.41767, - "mrr_at_3": 0.50736, - "mrr_at_5": 0.52985, - "mrr_at_10": 0.54006, - "mrr_at_50": 0.54714, - "mrr_at_100": 0.54751, - "mrr_at_1000": 0.54751 - } - } - } - } - }, - "[jina-reranker-v1-tiny-en](https://huggingface.co/jinaai/jina-reranker-v1-tiny-en)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.17841, - "ndcg_at_3": 0.17611, - "ndcg_at_5": 0.19122, - "ndcg_at_10": 0.23028, - "ndcg_at_50": 0.36033, - "ndcg_at_100": 0.41077, - "ndcg_at_1000": 0.41077, - "map_at_1": 0.06453, - "map_at_3": 0.10803, - "map_at_5": 0.12865, - "map_at_10": 0.15244, - "map_at_50": 0.1927, - "map_at_100": 0.20167, - "map_at_1000": 0.20167, - "recall_at_1": 0.06453, - "recall_at_3": 0.14645, - "recall_at_5": 0.20669, - "recall_at_10": 0.30836, - "recall_at_50": 0.72604, - "recall_at_100": 0.94178, - "recall_at_1000": 0.94178, - "precision_at_1": 0.17841, - "precision_at_3": 0.1417, - "precision_at_5": 0.12489, - "precision_at_10": 0.0973, - "precision_at_50": 0.04895, - "precision_at_100": 0.03204, - "precision_at_1000": 0.0032, - "mrr_at_1": 0.17841, - "mrr_at_3": 0.24853, - "mrr_at_5": 0.27053, - "mrr_at_10": 0.28689, - "mrr_at_50": 0.30339, - "mrr_at_100": 0.30459, - "mrr_at_1000": 0.30459 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.24931, - "ndcg_at_3": 0.234, - "ndcg_at_5": 0.23789, - "ndcg_at_10": 0.25467, - "ndcg_at_50": 0.29251, - "ndcg_at_100": 0.29689, - "ndcg_at_1000": 0.29689, - "map_at_1": 0.09614, - "map_at_3": 0.15317, - "map_at_5": 0.17703, - "map_at_10": 0.1994, - "map_at_50": 0.21673, - "map_at_100": 0.2174, - "map_at_1000": 0.2174, - "recall_at_1": 0.09614, - "recall_at_3": 0.18117, - "recall_at_5": 0.22675, - "recall_at_10": 0.28604, - "recall_at_50": 0.39174, - "recall_at_100": 0.41164, - "recall_at_1000": 0.41164, - "precision_at_1": 0.24931, - "precision_at_3": 0.18434, - "precision_at_5": 0.15114, - "precision_at_10": 0.10383, - "precision_at_50": 0.03009, - "precision_at_100": 0.01562, - "precision_at_1000": 0.00156, - "mrr_at_1": 0.24931, - "mrr_at_3": 0.29919, - "mrr_at_5": 0.30871, - "mrr_at_10": 0.3154, - "mrr_at_50": 0.31922, - "mrr_at_100": 0.31945, - "mrr_at_1000": 0.31945 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.16559, - "ndcg_at_3": 0.1642, - "ndcg_at_5": 0.17175, - "ndcg_at_10": 0.20067, - "ndcg_at_50": 0.30294, - "ndcg_at_100": 0.342, - "ndcg_at_1000": 0.342, - "map_at_1": 0.05085, - "map_at_3": 0.08821, - "map_at_5": 0.10785, - "map_at_10": 0.13184, - "map_at_50": 0.16518, - "map_at_100": 0.17225, - "map_at_1000": 0.17225, - "recall_at_1": 0.05085, - "recall_at_3": 0.11562, - "recall_at_5": 0.16492, - "recall_at_10": 0.24832, - "recall_at_50": 0.53778, - "recall_at_100": 0.68613, - "recall_at_1000": 0.68613, - "precision_at_1": 0.16559, - "precision_at_3": 0.14378, - "precision_at_5": 0.12799, - "precision_at_10": 0.10401, - "precision_at_50": 0.04902, - "precision_at_100": 0.03148, - "precision_at_1000": 0.00315, - "mrr_at_1": 0.16559, - "mrr_at_3": 0.22775, - "mrr_at_5": 0.24661, - "mrr_at_10": 0.26304, - "mrr_at_50": 0.27778, - "mrr_at_100": 0.27883, - "mrr_at_1000": 0.27883 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.49752, - "ndcg_at_3": 0.49622, - "ndcg_at_5": 0.50332, - "ndcg_at_10": 0.53171, - "ndcg_at_50": 0.57678, - "ndcg_at_100": 0.58024, - "ndcg_at_1000": 0.58024, - "map_at_1": 0.21658, - "map_at_3": 0.34306, - "map_at_5": 0.39395, - "map_at_10": 0.44451, - "map_at_50": 0.47083, - "map_at_100": 0.4715, - "map_at_1000": 0.4715, - "recall_at_1": 0.21658, - "recall_at_3": 0.39882, - "recall_at_5": 0.48445, - "recall_at_10": 0.59169, - "recall_at_50": 0.7081, - "recall_at_100": 0.72249, - "recall_at_1000": 0.72249, - "precision_at_1": 0.49752, - "precision_at_3": 0.37464, - "precision_at_5": 0.30595, - "precision_at_10": 0.21059, - "precision_at_50": 0.05425, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.4969, - "mrr_at_3": 0.58664, - "mrr_at_5": 0.59829, - "mrr_at_10": 0.605, - "mrr_at_50": 0.60786, - "mrr_at_100": 0.60795, - "mrr_at_1000": 0.60795 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.56544, - "ndcg_at_3": 0.52919, - "ndcg_at_5": 0.51822, - "ndcg_at_10": 0.54368, - "ndcg_at_50": 0.63036, - "ndcg_at_100": 0.63918, - "ndcg_at_1000": 0.63918, - "map_at_1": 0.15409, - "map_at_3": 0.28898, - "map_at_5": 0.35655, - "map_at_10": 0.43088, - "map_at_50": 0.48142, - "map_at_100": 0.48355, - "map_at_1000": 0.48355, - "recall_at_1": 0.15409, - "recall_at_3": 0.3279, - "recall_at_5": 0.43335, - "recall_at_10": 0.58146, - "recall_at_50": 0.79687, - "recall_at_100": 0.82938, - "recall_at_1000": 0.82938, - "precision_at_1": 0.56544, - "precision_at_3": 0.466, - "precision_at_5": 0.39788, - "precision_at_10": 0.28853, - "precision_at_50": 0.0833, - "precision_at_100": 0.04329, - "precision_at_1000": 0.00433, - "mrr_at_1": 0.56575, - "mrr_at_3": 0.64815, - "mrr_at_5": 0.66148, - "mrr_at_10": 0.66909, - "mrr_at_50": 0.67243, - "mrr_at_100": 0.67259, - "mrr_at_1000": 0.67259 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.16809, - "ndcg_at_3": 0.15064, - "ndcg_at_5": 0.15049, - "ndcg_at_10": 0.17302, - "ndcg_at_50": 0.28873, - "ndcg_at_100": 0.33101, - "ndcg_at_1000": 0.33101, - "map_at_1": 0.03349, - "map_at_3": 0.06196, - "map_at_5": 0.07803, - "map_at_10": 0.09743, - "map_at_50": 0.13491, - "map_at_100": 0.14337, - "map_at_1000": 0.14337, - "recall_at_1": 0.03349, - "recall_at_3": 0.0825, - "recall_at_5": 0.12511, - "recall_at_10": 0.20001, - "recall_at_50": 0.50254, - "recall_at_100": 0.65031, - "recall_at_1000": 0.65031, - "precision_at_1": 0.16809, - "precision_at_3": 0.13963, - "precision_at_5": 0.12828, - "precision_at_10": 0.10678, - "precision_at_50": 0.05707, - "precision_at_100": 0.03697, - "precision_at_1000": 0.0037, - "mrr_at_1": 0.16862, - "mrr_at_3": 0.23381, - "mrr_at_5": 0.25756, - "mrr_at_10": 0.27719, - "mrr_at_50": 0.2923, - "mrr_at_100": 0.29311, - "mrr_at_1000": 0.29311 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.50849, - "ndcg_at_3": 0.47129, - "ndcg_at_5": 0.4868, - "ndcg_at_10": 0.52823, - "ndcg_at_50": 0.57832, - "ndcg_at_100": 0.58457, - "ndcg_at_1000": 0.58457, - "map_at_1": 0.22435, - "map_at_3": 0.3526, - "map_at_5": 0.39579, - "map_at_10": 0.43259, - "map_at_50": 0.45354, - "map_at_100": 0.45456, - "map_at_1000": 0.45456, - "recall_at_1": 0.22435, - "recall_at_3": 0.40476, - "recall_at_5": 0.49269, - "recall_at_10": 0.60388, - "recall_at_50": 0.75735, - "recall_at_100": 0.78533, - "recall_at_1000": 0.78533, - "precision_at_1": 0.50849, - "precision_at_3": 0.35149, - "precision_at_5": 0.27276, - "precision_at_10": 0.17627, - "precision_at_50": 0.0456, - "precision_at_100": 0.02363, - "precision_at_1000": 0.00236, - "mrr_at_1": 0.50908, - "mrr_at_3": 0.58924, - "mrr_at_5": 0.60301, - "mrr_at_10": 0.61196, - "mrr_at_50": 0.61611, - "mrr_at_100": 0.61634, - "mrr_at_1000": 0.61634 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.15845, - "ndcg_at_3": 0.14624, - "ndcg_at_5": 0.14846, - "ndcg_at_10": 0.17143, - "ndcg_at_50": 0.25292, - "ndcg_at_100": 0.27754, - "ndcg_at_1000": 0.27754, - "map_at_1": 0.04586, - "map_at_3": 0.07401, - "map_at_5": 0.08915, - "map_at_10": 0.10819, - "map_at_50": 0.13515, - "map_at_100": 0.13931, - "map_at_1000": 0.13931, - "recall_at_1": 0.04586, - "recall_at_3": 0.09361, - "recall_at_5": 0.13133, - "recall_at_10": 0.19955, - "recall_at_50": 0.42387, - "recall_at_100": 0.51582, - "recall_at_1000": 0.51582, - "precision_at_1": 0.15845, - "precision_at_3": 0.12779, - "precision_at_5": 0.11446, - "precision_at_10": 0.09235, - "precision_at_50": 0.04105, - "precision_at_100": 0.02497, - "precision_at_1000": 0.0025, - "mrr_at_1": 0.15845, - "mrr_at_3": 0.21505, - "mrr_at_5": 0.23347, - "mrr_at_10": 0.24814, - "mrr_at_50": 0.26053, - "mrr_at_100": 0.26147, - "mrr_at_1000": 0.26147 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.43659, - "ndcg_at_3": 0.46471, - "ndcg_at_5": 0.48703, - "ndcg_at_10": 0.51892, - "ndcg_at_50": 0.55026, - "ndcg_at_100": 0.55358, - "ndcg_at_1000": 0.55358, - "map_at_1": 0.26832, - "map_at_3": 0.38894, - "map_at_5": 0.42528, - "map_at_10": 0.45541, - "map_at_50": 0.46931, - "map_at_100": 0.46971, - "map_at_1000": 0.46971, - "recall_at_1": 0.26832, - "recall_at_3": 0.44941, - "recall_at_5": 0.53003, - "recall_at_10": 0.6181, - "recall_at_50": 0.7181, - "recall_at_100": 0.73631, - "recall_at_1000": 0.73631, - "precision_at_1": 0.43659, - "precision_at_3": 0.28938, - "precision_at_5": 0.21956, - "precision_at_10": 0.13943, - "precision_at_50": 0.03416, - "precision_at_100": 0.01738, - "precision_at_1000": 0.00174, - "mrr_at_1": 0.43659, - "mrr_at_3": 0.50841, - "mrr_at_5": 0.52053, - "mrr_at_10": 0.5269, - "mrr_at_50": 0.53002, - "mrr_at_100": 0.53024, - "mrr_at_1000": 0.53024 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.31686, - "ndcg_at_3": 0.31189, - "ndcg_at_5": 0.33545, - "ndcg_at_10": 0.37476, - "ndcg_at_50": 0.44823, - "ndcg_at_100": 0.46775, - "ndcg_at_1000": 0.46775, - "map_at_1": 0.16484, - "map_at_3": 0.23632, - "map_at_5": 0.26273, - "map_at_10": 0.28514, - "map_at_50": 0.30899, - "map_at_100": 0.31213, - "map_at_1000": 0.31213, - "recall_at_1": 0.16484, - "recall_at_3": 0.30022, - "recall_at_5": 0.37499, - "recall_at_10": 0.47402, - "recall_at_50": 0.71098, - "recall_at_100": 0.79398, - "recall_at_1000": 0.79398, - "precision_at_1": 0.31686, - "precision_at_3": 0.20866, - "precision_at_5": 0.16569, - "precision_at_10": 0.11179, - "precision_at_50": 0.0375, - "precision_at_100": 0.02166, - "precision_at_1000": 0.00217, - "mrr_at_1": 0.31686, - "mrr_at_3": 0.40391, - "mrr_at_5": 0.42491, - "mrr_at_10": 0.44001, - "mrr_at_50": 0.44903, - "mrr_at_100": 0.44956, - "mrr_at_1000": 0.44956 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.62942, - "ndcg_at_3": 0.59246, - "ndcg_at_5": 0.60659, - "ndcg_at_10": 0.63021, - "ndcg_at_50": 0.65142, - "ndcg_at_100": 0.65355, - "ndcg_at_1000": 0.65355, - "map_at_1": 0.37135, - "map_at_3": 0.49625, - "map_at_5": 0.52964, - "map_at_10": 0.55228, - "map_at_50": 0.56213, - "map_at_100": 0.56247, - "map_at_1000": 0.56247, - "recall_at_1": 0.37135, - "recall_at_3": 0.54899, - "recall_at_5": 0.61985, - "recall_at_10": 0.68336, - "recall_at_50": 0.74702, - "recall_at_100": 0.75643, - "recall_at_1000": 0.75643, - "precision_at_1": 0.62942, - "precision_at_3": 0.3675, - "precision_at_5": 0.26566, - "precision_at_10": 0.15611, - "precision_at_50": 0.0356, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00181, - "mrr_at_1": 0.62942, - "mrr_at_3": 0.69929, - "mrr_at_5": 0.7091, - "mrr_at_10": 0.71315, - "mrr_at_50": 0.71459, - "mrr_at_100": 0.71465, - "mrr_at_1000": 0.71465 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.46216, - "ndcg_at_3": 0.41534, - "ndcg_at_5": 0.42105, - "ndcg_at_10": 0.45075, - "ndcg_at_50": 0.48742, - "ndcg_at_100": 0.49002, - "ndcg_at_1000": 0.49002, - "map_at_1": 0.19477, - "map_at_3": 0.2898, - "map_at_5": 0.32555, - "map_at_10": 0.3554, - "map_at_50": 0.37188, - "map_at_100": 0.37224, - "map_at_1000": 0.37224, - "recall_at_1": 0.19477, - "recall_at_3": 0.33993, - "recall_at_5": 0.4144, - "recall_at_10": 0.50347, - "recall_at_50": 0.60971, - "recall_at_100": 0.62217, - "recall_at_1000": 0.62217, - "precision_at_1": 0.46216, - "precision_at_3": 0.31003, - "precision_at_5": 0.24136, - "precision_at_10": 0.15627, - "precision_at_50": 0.0392, - "precision_at_100": 0.01991, - "precision_at_1000": 0.00199, - "mrr_at_1": 0.46216, - "mrr_at_3": 0.54198, - "mrr_at_5": 0.55501, - "mrr_at_10": 0.56206, - "mrr_at_50": 0.56517, - "mrr_at_100": 0.5653, - "mrr_at_1000": 0.5653 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.26203, - "ndcg_at_3": 0.25988, - "ndcg_at_5": 0.27198, - "ndcg_at_10": 0.30173, - "ndcg_at_50": 0.3912, - "ndcg_at_100": 0.41816, - "ndcg_at_1000": 0.41816, - "map_at_1": 0.12074, - "map_at_3": 0.17633, - "map_at_5": 0.19911, - "map_at_10": 0.22282, - "map_at_50": 0.25455, - "map_at_100": 0.25947, - "map_at_1000": 0.25947, - "recall_at_1": 0.12074, - "recall_at_3": 0.21555, - "recall_at_5": 0.2743, - "recall_at_10": 0.36076, - "recall_at_50": 0.61768, - "recall_at_100": 0.72594, - "recall_at_1000": 0.72594, - "precision_at_1": 0.26203, - "precision_at_3": 0.19192, - "precision_at_5": 0.16138, - "precision_at_10": 0.11872, - "precision_at_50": 0.04676, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.26263, - "mrr_at_3": 0.3369, - "mrr_at_5": 0.359, - "mrr_at_10": 0.37426, - "mrr_at_50": 0.3846, - "mrr_at_100": 0.38538, - "mrr_at_1000": 0.38538 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.48565, - "ndcg_at_3": 0.47073, - "ndcg_at_5": 0.47252, - "ndcg_at_10": 0.49767, - "ndcg_at_50": 0.52905, - "ndcg_at_100": 0.53077, - "ndcg_at_1000": 0.53077, - "map_at_1": 0.23707, - "map_at_3": 0.33816, - "map_at_5": 0.37445, - "map_at_10": 0.40826, - "map_at_50": 0.4245, - "map_at_100": 0.42481, - "map_at_1000": 0.42481, - "recall_at_1": 0.23707, - "recall_at_3": 0.3956, - "recall_at_5": 0.46494, - "recall_at_10": 0.55391, - "recall_at_50": 0.63878, - "recall_at_100": 0.64611, - "recall_at_1000": 0.64611, - "precision_at_1": 0.48565, - "precision_at_3": 0.33099, - "precision_at_5": 0.25788, - "precision_at_10": 0.16784, - "precision_at_50": 0.04115, - "precision_at_100": 0.02082, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.48565, - "mrr_at_3": 0.57381, - "mrr_at_5": 0.58612, - "mrr_at_10": 0.59269, - "mrr_at_50": 0.59466, - "mrr_at_100": 0.59471, - "mrr_at_1000": 0.59471 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.51156, - "ndcg_at_3": 0.47917, - "ndcg_at_5": 0.47845, - "ndcg_at_10": 0.5271, - "ndcg_at_50": 0.61562, - "ndcg_at_100": 0.62631, - "ndcg_at_1000": 0.62631, - "map_at_1": 0.16073, - "map_at_3": 0.30258, - "map_at_5": 0.35714, - "map_at_10": 0.41554, - "map_at_50": 0.45684, - "map_at_100": 0.45881, - "map_at_1000": 0.45881, - "recall_at_1": 0.16073, - "recall_at_3": 0.35307, - "recall_at_5": 0.45614, - "recall_at_10": 0.59703, - "recall_at_50": 0.85425, - "recall_at_100": 0.90198, - "recall_at_1000": 0.90198, - "precision_at_1": 0.51156, - "precision_at_3": 0.41522, - "precision_at_5": 0.33526, - "precision_at_10": 0.23266, - "precision_at_50": 0.06688, - "precision_at_100": 0.03491, - "precision_at_1000": 0.00349, - "mrr_at_1": 0.51156, - "mrr_at_3": 0.59923, - "mrr_at_5": 0.61527, - "mrr_at_10": 0.62346, - "mrr_at_50": 0.63001, - "mrr_at_100": 0.63029, - "mrr_at_1000": 0.63029 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.51952, - "ndcg_at_3": 0.48782, - "ndcg_at_5": 0.47691, - "ndcg_at_10": 0.52061, - "ndcg_at_50": 0.61411, - "ndcg_at_100": 0.63043, - "ndcg_at_1000": 0.63043, - "map_at_1": 0.14367, - "map_at_3": 0.28018, - "map_at_5": 0.33724, - "map_at_10": 0.40404, - "map_at_50": 0.45213, - "map_at_100": 0.45551, - "map_at_1000": 0.45551, - "recall_at_1": 0.14367, - "recall_at_3": 0.32307, - "recall_at_5": 0.42549, - "recall_at_10": 0.58347, - "recall_at_50": 0.83894, - "recall_at_100": 0.90812, - "recall_at_1000": 0.90812, - "precision_at_1": 0.51952, - "precision_at_3": 0.43143, - "precision_at_5": 0.35916, - "precision_at_10": 0.25465, - "precision_at_50": 0.07459, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.52252, - "mrr_at_3": 0.60611, - "mrr_at_5": 0.62187, - "mrr_at_10": 0.63208, - "mrr_at_50": 0.63722, - "mrr_at_100": 0.63758, - "mrr_at_1000": 0.63758 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.59467, - "ndcg_at_3": 0.53371, - "ndcg_at_5": 0.53087, - "ndcg_at_10": 0.56813, - "ndcg_at_50": 0.65222, - "ndcg_at_100": 0.66318, - "ndcg_at_1000": 0.66318, - "map_at_1": 0.179, - "map_at_3": 0.32297, - "map_at_5": 0.39154, - "map_at_10": 0.4599, - "map_at_50": 0.50616, - "map_at_100": 0.50808, - "map_at_1000": 0.50808, - "recall_at_1": 0.179, - "recall_at_3": 0.35497, - "recall_at_5": 0.47266, - "recall_at_10": 0.6174, - "recall_at_50": 0.84285, - "recall_at_100": 0.89126, - "recall_at_1000": 0.89126, - "precision_at_1": 0.59467, - "precision_at_3": 0.45759, - "precision_at_5": 0.38343, - "precision_at_10": 0.26982, - "precision_at_50": 0.07533, - "precision_at_100": 0.03914, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.59467, - "mrr_at_3": 0.6642, - "mrr_at_5": 0.67751, - "mrr_at_10": 0.68385, - "mrr_at_50": 0.68824, - "mrr_at_100": 0.68863, - "mrr_at_1000": 0.68863 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.59882, - "ndcg_at_3": 0.54193, - "ndcg_at_5": 0.54396, - "ndcg_at_10": 0.59312, - "ndcg_at_50": 0.67896, - "ndcg_at_100": 0.69072, - "ndcg_at_1000": 0.69072, - "map_at_1": 0.20189, - "map_at_3": 0.35741, - "map_at_5": 0.41942, - "map_at_10": 0.48321, - "map_at_50": 0.52641, - "map_at_100": 0.52851, - "map_at_1000": 0.52851, - "recall_at_1": 0.20189, - "recall_at_3": 0.40407, - "recall_at_5": 0.50945, - "recall_at_10": 0.64978, - "recall_at_50": 0.89289, - "recall_at_100": 0.94537, - "recall_at_1000": 0.94537, - "precision_at_1": 0.59882, - "precision_at_3": 0.45919, - "precision_at_5": 0.36873, - "precision_at_10": 0.25339, - "precision_at_50": 0.07038, - "precision_at_100": 0.03681, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.60177, - "mrr_at_3": 0.68584, - "mrr_at_5": 0.69661, - "mrr_at_10": 0.70275, - "mrr_at_50": 0.70725, - "mrr_at_100": 0.70774, - "mrr_at_1000": 0.70774 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.75, - "ndcg_at_3": 0.68769, - "ndcg_at_5": 0.67578, - "ndcg_at_10": 0.72253, - "ndcg_at_50": 0.79336, - "ndcg_at_100": 0.79634, - "ndcg_at_1000": 0.79634, - "map_at_1": 0.27014, - "map_at_3": 0.46323, - "map_at_5": 0.53934, - "map_at_10": 0.61416, - "map_at_50": 0.65778, - "map_at_100": 0.65847, - "map_at_1000": 0.65847, - "recall_at_1": 0.27014, - "recall_at_3": 0.50694, - "recall_at_5": 0.62112, - "recall_at_10": 0.77208, - "recall_at_50": 0.95635, - "recall_at_100": 0.96775, - "recall_at_1000": 0.96775, - "precision_at_1": 0.75, - "precision_at_3": 0.56522, - "precision_at_5": 0.45163, - "precision_at_10": 0.30109, - "precision_at_50": 0.07739, - "precision_at_100": 0.03921, - "precision_at_1000": 0.00392, - "mrr_at_1": 0.74728, - "mrr_at_3": 0.8202, - "mrr_at_5": 0.82591, - "mrr_at_10": 0.83016, - "mrr_at_50": 0.8319, - "mrr_at_100": 0.8319, - "mrr_at_1000": 0.8319 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.58036, - "ndcg_at_3": 0.5436, - "ndcg_at_5": 0.55185, - "ndcg_at_10": 0.59241, - "ndcg_at_50": 0.65085, - "ndcg_at_100": 0.65791, - "ndcg_at_1000": 0.65791, - "map_at_1": 0.2602, - "map_at_3": 0.40852, - "map_at_5": 0.45971, - "map_at_10": 0.50434, - "map_at_50": 0.53129, - "map_at_100": 0.53253, - "map_at_1000": 0.53253, - "recall_at_1": 0.2602, - "recall_at_3": 0.45601, - "recall_at_5": 0.54968, - "recall_at_10": 0.65496, - "recall_at_50": 0.82535, - "recall_at_100": 0.85765, - "recall_at_1000": 0.85765, - "precision_at_1": 0.58036, - "precision_at_3": 0.40476, - "precision_at_5": 0.3131, - "precision_at_10": 0.20357, - "precision_at_50": 0.05393, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.58036, - "mrr_at_3": 0.65327, - "mrr_at_5": 0.66711, - "mrr_at_10": 0.67108, - "mrr_at_50": 0.67572, - "mrr_at_100": 0.67598, - "mrr_at_1000": 0.67598 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.63662, - "ndcg_at_3": 0.59669, - "ndcg_at_5": 0.61222, - "ndcg_at_10": 0.66026, - "ndcg_at_50": 0.71069, - "ndcg_at_100": 0.71348, - "ndcg_at_1000": 0.71348, - "map_at_1": 0.30093, - "map_at_3": 0.46946, - "map_at_5": 0.51874, - "map_at_10": 0.56063, - "map_at_50": 0.58354, - "map_at_100": 0.58402, - "map_at_1000": 0.58402, - "recall_at_1": 0.30093, - "recall_at_3": 0.53832, - "recall_at_5": 0.63063, - "recall_at_10": 0.74555, - "recall_at_50": 0.90019, - "recall_at_100": 0.91299, - "recall_at_1000": 0.91299, - "precision_at_1": 0.63662, - "precision_at_3": 0.42911, - "precision_at_5": 0.32225, - "precision_at_10": 0.20197, - "precision_at_50": 0.04992, - "precision_at_100": 0.02532, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.63662, - "mrr_at_3": 0.72676, - "mrr_at_5": 0.7331, - "mrr_at_10": 0.7389, - "mrr_at_50": 0.74265, - "mrr_at_100": 0.74268, - "mrr_at_1000": 0.74268 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.63025, - "ndcg_at_3": 0.56871, - "ndcg_at_5": 0.58399, - "ndcg_at_10": 0.63166, - "ndcg_at_50": 0.6892, - "ndcg_at_100": 0.69385, - "ndcg_at_1000": 0.69385, - "map_at_1": 0.30558, - "map_at_3": 0.45375, - "map_at_5": 0.49777, - "map_at_10": 0.5364, - "map_at_50": 0.56173, - "map_at_100": 0.56251, - "map_at_1000": 0.56251, - "recall_at_1": 0.30558, - "recall_at_3": 0.50438, - "recall_at_5": 0.59332, - "recall_at_10": 0.70938, - "recall_at_50": 0.88286, - "recall_at_100": 0.90463, - "recall_at_1000": 0.90463, - "precision_at_1": 0.63025, - "precision_at_3": 0.39869, - "precision_at_5": 0.29692, - "precision_at_10": 0.18627, - "precision_at_50": 0.04852, - "precision_at_100": 0.02485, - "precision_at_1000": 0.00248, - "mrr_at_1": 0.63025, - "mrr_at_3": 0.69421, - "mrr_at_5": 0.70878, - "mrr_at_10": 0.71542, - "mrr_at_50": 0.71953, - "mrr_at_100": 0.71969, - "mrr_at_1000": 0.71969 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.64785, - "ndcg_at_3": 0.59489, - "ndcg_at_5": 0.60866, - "ndcg_at_10": 0.65623, - "ndcg_at_50": 0.7085, - "ndcg_at_100": 0.71638, - "ndcg_at_1000": 0.71638, - "map_at_1": 0.35125, - "map_at_3": 0.48991, - "map_at_5": 0.52707, - "map_at_10": 0.56408, - "map_at_50": 0.58742, - "map_at_100": 0.58877, - "map_at_1000": 0.58877, - "recall_at_1": 0.35125, - "recall_at_3": 0.53665, - "recall_at_5": 0.61551, - "recall_at_10": 0.72327, - "recall_at_50": 0.87977, - "recall_at_100": 0.91588, - "recall_at_1000": 0.91588, - "precision_at_1": 0.64785, - "precision_at_3": 0.38799, - "precision_at_5": 0.28763, - "precision_at_10": 0.1828, - "precision_at_50": 0.04715, - "precision_at_100": 0.02457, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.65054, - "mrr_at_3": 0.72267, - "mrr_at_5": 0.73826, - "mrr_at_10": 0.74339, - "mrr_at_50": 0.74626, - "mrr_at_100": 0.74652, - "mrr_at_1000": 0.74652 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.46448, - "ndcg_at_3": 0.43833, - "ndcg_at_5": 0.44973, - "ndcg_at_10": 0.5023, - "ndcg_at_50": 0.58195, - "ndcg_at_100": 0.58953, - "ndcg_at_1000": 0.58953, - "map_at_1": 0.19076, - "map_at_3": 0.31132, - "map_at_5": 0.35232, - "map_at_10": 0.39778, - "map_at_50": 0.43137, - "map_at_100": 0.43266, - "map_at_1000": 0.43266, - "recall_at_1": 0.19076, - "recall_at_3": 0.37226, - "recall_at_5": 0.46055, - "recall_at_10": 0.58667, - "recall_at_50": 0.83488, - "recall_at_100": 0.86966, - "recall_at_1000": 0.86966, - "precision_at_1": 0.46448, - "precision_at_3": 0.3388, - "precision_at_5": 0.26776, - "precision_at_10": 0.1847, - "precision_at_50": 0.05317, - "precision_at_100": 0.02757, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.46448, - "mrr_at_3": 0.56011, - "mrr_at_5": 0.5735, - "mrr_at_10": 0.58309, - "mrr_at_50": 0.59023, - "mrr_at_100": 0.59053, - "mrr_at_1000": 0.59053 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.55405, - "ndcg_at_3": 0.55259, - "ndcg_at_5": 0.58975, - "ndcg_at_10": 0.64019, - "ndcg_at_50": 0.6981, - "ndcg_at_100": 0.70196, - "ndcg_at_1000": 0.70196, - "map_at_1": 0.29353, - "map_at_3": 0.44919, - "map_at_5": 0.50085, - "map_at_10": 0.54227, - "map_at_50": 0.56506, - "map_at_100": 0.56573, - "map_at_1000": 0.56573, - "recall_at_1": 0.29353, - "recall_at_3": 0.53934, - "recall_at_5": 0.65261, - "recall_at_10": 0.76814, - "recall_at_50": 0.96662, - "recall_at_100": 0.98495, - "recall_at_1000": 0.98495, - "precision_at_1": 0.55405, - "precision_at_3": 0.36577, - "precision_at_5": 0.28486, - "precision_at_10": 0.18, - "precision_at_50": 0.04573, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.55405, - "mrr_at_3": 0.65676, - "mrr_at_5": 0.67216, - "mrr_at_10": 0.6775, - "mrr_at_50": 0.68255, - "mrr_at_100": 0.68264, - "mrr_at_1000": 0.68264 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.41718, - "ndcg_at_3": 0.45261, - "ndcg_at_5": 0.48881, - "ndcg_at_10": 0.54753, - "ndcg_at_50": 0.60052, - "ndcg_at_100": 0.6094, - "ndcg_at_1000": 0.6094, - "map_at_1": 0.25908, - "map_at_3": 0.38095, - "map_at_5": 0.41676, - "map_at_10": 0.45167, - "map_at_50": 0.47009, - "map_at_100": 0.47121, - "map_at_1000": 0.47121, - "recall_at_1": 0.25908, - "recall_at_3": 0.47409, - "recall_at_5": 0.56967, - "recall_at_10": 0.71822, - "recall_at_50": 0.90813, - "recall_at_100": 0.95501, - "recall_at_1000": 0.95501, - "precision_at_1": 0.41718, - "precision_at_3": 0.27914, - "precision_at_5": 0.21104, - "precision_at_10": 0.13865, - "precision_at_50": 0.03583, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.41718, - "mrr_at_3": 0.51585, - "mrr_at_5": 0.53471, - "mrr_at_10": 0.5501, - "mrr_at_50": 0.55552, - "mrr_at_100": 0.55591, - "mrr_at_1000": 0.55591 - }, - "gpt3": { - "ndcg_at_1": 0.35905, - "ndcg_at_3": 0.44018, - "ndcg_at_5": 0.49417, - "ndcg_at_10": 0.52865, - "ndcg_at_50": 0.57792, - "ndcg_at_100": 0.58806, - "ndcg_at_1000": 0.58806, - "map_at_1": 0.2866, - "map_at_3": 0.39264, - "map_at_5": 0.42743, - "map_at_10": 0.44504, - "map_at_50": 0.45971, - "map_at_100": 0.46081, - "map_at_1000": 0.46081, - "recall_at_1": 0.2866, - "recall_at_3": 0.49975, - "recall_at_5": 0.6182, - "recall_at_10": 0.70969, - "recall_at_50": 0.89886, - "recall_at_100": 0.95722, - "recall_at_1000": 0.95722, - "precision_at_1": 0.35905, - "precision_at_3": 0.22354, - "precision_at_5": 0.17151, - "precision_at_10": 0.10237, - "precision_at_50": 0.02665, - "precision_at_100": 0.01409, - "precision_at_1000": 0.00141, - "mrr_at_1": 0.35905, - "mrr_at_3": 0.46785, - "mrr_at_5": 0.49426, - "mrr_at_10": 0.50438, - "mrr_at_50": 0.51223, - "mrr_at_100": 0.51287, - "mrr_at_1000": 0.51287 - }, - "llm-survey": { - "ndcg_at_1": 0.46218, - "ndcg_at_3": 0.43124, - "ndcg_at_5": 0.44738, - "ndcg_at_10": 0.49402, - "ndcg_at_50": 0.56152, - "ndcg_at_100": 0.57594, - "ndcg_at_1000": 0.57594, - "map_at_1": 0.21528, - "map_at_3": 0.33188, - "map_at_5": 0.36813, - "map_at_10": 0.4049, - "map_at_50": 0.43046, - "map_at_100": 0.43267, - "map_at_1000": 0.43267, - "recall_at_1": 0.21528, - "recall_at_3": 0.38456, - "recall_at_5": 0.45768, - "recall_at_10": 0.57615, - "recall_at_50": 0.80359, - "recall_at_100": 0.87462, - "recall_at_1000": 0.87462, - "precision_at_1": 0.46218, - "precision_at_3": 0.31466, - "precision_at_5": 0.23922, - "precision_at_10": 0.15798, - "precision_at_50": 0.0437, - "precision_at_100": 0.02342, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.46218, - "mrr_at_3": 0.53922, - "mrr_at_5": 0.55, - "mrr_at_10": 0.56008, - "mrr_at_50": 0.56718, - "mrr_at_100": 0.56766, - "mrr_at_1000": 0.56766 - }, - "gemini": { - "ndcg_at_1": 0.38153, - "ndcg_at_3": 0.49727, - "ndcg_at_5": 0.52371, - "ndcg_at_10": 0.54887, - "ndcg_at_50": 0.59654, - "ndcg_at_100": 0.60115, - "ndcg_at_1000": 0.60115, - "map_at_1": 0.38153, - "map_at_3": 0.46921, - "map_at_5": 0.48387, - "map_at_10": 0.49452, - "map_at_50": 0.50544, - "map_at_100": 0.50586, - "map_at_1000": 0.50586, - "recall_at_1": 0.38153, - "recall_at_3": 0.57831, - "recall_at_5": 0.64257, - "recall_at_10": 0.71888, - "recall_at_50": 0.92771, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.38153, - "precision_at_3": 0.19277, - "precision_at_5": 0.12851, - "precision_at_10": 0.07189, - "precision_at_50": 0.01855, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.38153, - "mrr_at_3": 0.46921, - "mrr_at_5": 0.48387, - "mrr_at_10": 0.49452, - "mrr_at_50": 0.50543, - "mrr_at_100": 0.50586, - "mrr_at_1000": 0.50586 - } - } - } - } - }, - "[bge-reranker-large](https://huggingface.co/BAAI/bge-reranker-large)": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.81057, - "ndcg_at_3": 0.74217, - "ndcg_at_5": 0.75422, - "ndcg_at_10": 0.79953, - "ndcg_at_50": 0.82549, - "ndcg_at_100": 0.82658, - "ndcg_at_1000": 0.82658, - "map_at_1": 0.33935, - "map_at_3": 0.55192, - "map_at_5": 0.64398, - "map_at_10": 0.71581, - "map_at_50": 0.7319, - "map_at_100": 0.73208, - "map_at_1000": 0.73208, - "recall_at_1": 0.33935, - "recall_at_3": 0.59325, - "recall_at_5": 0.72678, - "recall_at_10": 0.8614, - "recall_at_50": 0.93645, - "recall_at_100": 0.94178, - "recall_at_1000": 0.94178, - "precision_at_1": 0.81057, - "precision_at_3": 0.57379, - "precision_at_5": 0.45925, - "precision_at_10": 0.29213, - "precision_at_50": 0.06384, - "precision_at_100": 0.03204, - "precision_at_1000": 0.0032, - "mrr_at_1": 0.81057, - "mrr_at_3": 0.85977, - "mrr_at_5": 0.86332, - "mrr_at_10": 0.86542, - "mrr_at_50": 0.86692, - "mrr_at_100": 0.86696, - "mrr_at_1000": 0.86696 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.32038, - "ndcg_at_3": 0.28848, - "ndcg_at_5": 0.29527, - "ndcg_at_10": 0.31202, - "ndcg_at_50": 0.33297, - "ndcg_at_100": 0.33487, - "ndcg_at_1000": 0.33487, - "map_at_1": 0.12044, - "map_at_3": 0.18815, - "map_at_5": 0.22228, - "map_at_10": 0.25231, - "map_at_50": 0.26374, - "map_at_100": 0.264, - "map_at_1000": 0.264, - "recall_at_1": 0.12044, - "recall_at_3": 0.21387, - "recall_at_5": 0.27585, - "recall_at_10": 0.34191, - "recall_at_50": 0.4024, - "recall_at_100": 0.41164, - "recall_at_1000": 0.41164, - "precision_at_1": 0.32038, - "precision_at_3": 0.22932, - "precision_at_5": 0.19223, - "precision_at_10": 0.12921, - "precision_at_50": 0.03079, - "precision_at_100": 0.01562, - "precision_at_1000": 0.00156, - "mrr_at_1": 0.32038, - "mrr_at_3": 0.36545, - "mrr_at_5": 0.37588, - "mrr_at_10": 0.38012, - "mrr_at_50": 0.38161, - "mrr_at_100": 0.38172, - "mrr_at_1000": 0.38172 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.59458, - "ndcg_at_3": 0.55546, - "ndcg_at_5": 0.55244, - "ndcg_at_10": 0.57281, - "ndcg_at_50": 0.60282, - "ndcg_at_100": 0.60474, - "ndcg_at_1000": 0.60474, - "map_at_1": 0.17866, - "map_at_3": 0.32736, - "map_at_5": 0.40222, - "map_at_10": 0.46567, - "map_at_50": 0.48526, - "map_at_100": 0.48565, - "map_at_1000": 0.48565, - "recall_at_1": 0.17866, - "recall_at_3": 0.3732, - "recall_at_5": 0.48965, - "recall_at_10": 0.60364, - "recall_at_50": 0.67825, - "recall_at_100": 0.68613, - "recall_at_1000": 0.68613, - "precision_at_1": 0.59458, - "precision_at_3": 0.48596, - "precision_at_5": 0.41108, - "precision_at_10": 0.27154, - "precision_at_50": 0.06236, - "precision_at_100": 0.03148, - "precision_at_1000": 0.00315, - "mrr_at_1": 0.59458, - "mrr_at_3": 0.68641, - "mrr_at_5": 0.69713, - "mrr_at_10": 0.69987, - "mrr_at_50": 0.70076, - "mrr_at_100": 0.70079, - "mrr_at_1000": 0.70079 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.60037, - "ndcg_at_3": 0.57816, - "ndcg_at_5": 0.5779, - "ndcg_at_10": 0.59815, - "ndcg_at_50": 0.62776, - "ndcg_at_100": 0.6294, - "ndcg_at_1000": 0.6294, - "map_at_1": 0.25794, - "map_at_3": 0.40299, - "map_at_5": 0.46335, - "map_at_10": 0.51951, - "map_at_50": 0.53857, - "map_at_100": 0.53889, - "map_at_1000": 0.53889, - "recall_at_1": 0.25794, - "recall_at_3": 0.4474, - "recall_at_5": 0.53663, - "recall_at_10": 0.63811, - "recall_at_50": 0.71536, - "recall_at_100": 0.72249, - "recall_at_1000": 0.72249, - "precision_at_1": 0.60037, - "precision_at_3": 0.4399, - "precision_at_5": 0.35452, - "precision_at_10": 0.23569, - "precision_at_50": 0.05486, - "precision_at_100": 0.02765, - "precision_at_1000": 0.00277, - "mrr_at_1": 0.60037, - "mrr_at_3": 0.66842, - "mrr_at_5": 0.6766, - "mrr_at_10": 0.68066, - "mrr_at_50": 0.68234, - "mrr_at_100": 0.68239, - "mrr_at_1000": 0.68239 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.72765, - "ndcg_at_3": 0.68957, - "ndcg_at_5": 0.67737, - "ndcg_at_10": 0.69666, - "ndcg_at_50": 0.73693, - "ndcg_at_100": 0.73879, - "ndcg_at_1000": 0.73879, - "map_at_1": 0.19704, - "map_at_3": 0.38824, - "map_at_5": 0.49206, - "map_at_10": 0.59683, - "map_at_50": 0.6279, - "map_at_100": 0.62837, - "map_at_1000": 0.62837, - "recall_at_1": 0.19704, - "recall_at_3": 0.42384, - "recall_at_5": 0.56223, - "recall_at_10": 0.72609, - "recall_at_50": 0.82235, - "recall_at_100": 0.82938, - "recall_at_1000": 0.82938, - "precision_at_1": 0.72765, - "precision_at_3": 0.61555, - "precision_at_5": 0.53088, - "precision_at_10": 0.3711, - "precision_at_50": 0.08592, - "precision_at_100": 0.04329, - "precision_at_1000": 0.00433, - "mrr_at_1": 0.72796, - "mrr_at_3": 0.79137, - "mrr_at_5": 0.79802, - "mrr_at_10": 0.80124, - "mrr_at_50": 0.80211, - "mrr_at_100": 0.80213, - "mrr_at_1000": 0.80213 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.63607, - "ndcg_at_3": 0.56865, - "ndcg_at_5": 0.53524, - "ndcg_at_10": 0.54154, - "ndcg_at_50": 0.58326, - "ndcg_at_100": 0.58607, - "ndcg_at_1000": 0.58607, - "map_at_1": 0.13251, - "map_at_3": 0.27214, - "map_at_5": 0.34764, - "map_at_10": 0.41707, - "map_at_50": 0.44338, - "map_at_100": 0.44402, - "map_at_1000": 0.44402, - "recall_at_1": 0.13251, - "recall_at_3": 0.30446, - "recall_at_5": 0.41505, - "recall_at_10": 0.5402, - "recall_at_50": 0.63958, - "recall_at_100": 0.65031, - "recall_at_1000": 0.65031, - "precision_at_1": 0.63607, - "precision_at_3": 0.52935, - "precision_at_5": 0.44995, - "precision_at_10": 0.30438, - "precision_at_50": 0.07295, - "precision_at_100": 0.03697, - "precision_at_1000": 0.0037, - "mrr_at_1": 0.63607, - "mrr_at_3": 0.71656, - "mrr_at_5": 0.72681, - "mrr_at_10": 0.73102, - "mrr_at_50": 0.73203, - "mrr_at_100": 0.7321, - "mrr_at_1000": 0.7321 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.57059, - "ndcg_at_3": 0.53829, - "ndcg_at_5": 0.55301, - "ndcg_at_10": 0.59288, - "ndcg_at_50": 0.62688, - "ndcg_at_100": 0.62888, - "ndcg_at_1000": 0.62888, - "map_at_1": 0.24702, - "map_at_3": 0.39954, - "map_at_5": 0.45332, - "map_at_10": 0.49591, - "map_at_50": 0.51166, - "map_at_100": 0.51196, - "map_at_1000": 0.51196, - "recall_at_1": 0.24702, - "recall_at_3": 0.45796, - "recall_at_5": 0.5587, - "recall_at_10": 0.67149, - "recall_at_50": 0.77576, - "recall_at_100": 0.78533, - "recall_at_1000": 0.78533, - "precision_at_1": 0.57059, - "precision_at_3": 0.41183, - "precision_at_5": 0.31986, - "precision_at_10": 0.20158, - "precision_at_50": 0.04681, - "precision_at_100": 0.02363, - "precision_at_1000": 0.00236, - "mrr_at_1": 0.57059, - "mrr_at_3": 0.65202, - "mrr_at_5": 0.664, - "mrr_at_10": 0.6706, - "mrr_at_50": 0.67328, - "mrr_at_100": 0.6734, - "mrr_at_1000": 0.6734 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.49584, - "ndcg_at_3": 0.4382, - "ndcg_at_5": 0.4182, - "ndcg_at_10": 0.43305, - "ndcg_at_50": 0.4598, - "ndcg_at_100": 0.46137, - "ndcg_at_1000": 0.46137, - "map_at_1": 0.12791, - "map_at_3": 0.23418, - "map_at_5": 0.28294, - "map_at_10": 0.32664, - "map_at_50": 0.34269, - "map_at_100": 0.34299, - "map_at_1000": 0.34299, - "recall_at_1": 0.12791, - "recall_at_3": 0.2725, - "recall_at_5": 0.3501, - "recall_at_10": 0.4411, - "recall_at_50": 0.50915, - "recall_at_100": 0.51552, - "recall_at_1000": 0.51552, - "precision_at_1": 0.49584, - "precision_at_3": 0.39354, - "precision_at_5": 0.32166, - "precision_at_10": 0.2113, - "precision_at_50": 0.04943, - "precision_at_100": 0.02496, - "precision_at_1000": 0.0025, - "mrr_at_1": 0.49584, - "mrr_at_3": 0.58707, - "mrr_at_5": 0.59705, - "mrr_at_10": 0.6016, - "mrr_at_50": 0.6029, - "mrr_at_100": 0.60294, - "mrr_at_1000": 0.60294 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.51609, - "ndcg_at_3": 0.53474, - "ndcg_at_5": 0.55022, - "ndcg_at_10": 0.57627, - "ndcg_at_50": 0.5974, - "ndcg_at_100": 0.59993, - "ndcg_at_1000": 0.59993, - "map_at_1": 0.32021, - "map_at_3": 0.45302, - "map_at_5": 0.49058, - "map_at_10": 0.52066, - "map_at_50": 0.53147, - "map_at_100": 0.53178, - "map_at_1000": 0.53178, - "recall_at_1": 0.32021, - "recall_at_3": 0.50574, - "recall_at_5": 0.57859, - "recall_at_10": 0.65475, - "recall_at_50": 0.72211, - "recall_at_100": 0.73631, - "recall_at_1000": 0.73631, - "precision_at_1": 0.51609, - "precision_at_3": 0.33291, - "precision_at_5": 0.24732, - "precision_at_10": 0.15205, - "precision_at_50": 0.03435, - "precision_at_100": 0.01738, - "precision_at_1000": 0.00174, - "mrr_at_1": 0.51609, - "mrr_at_3": 0.57697, - "mrr_at_5": 0.58467, - "mrr_at_10": 0.58917, - "mrr_at_50": 0.59115, - "mrr_at_100": 0.59134, - "mrr_at_1000": 0.59134 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.76295, - "ndcg_at_3": 0.67677, - "ndcg_at_5": 0.68637, - "ndcg_at_10": 0.71441, - "ndcg_at_50": 0.72858, - "ndcg_at_100": 0.72893, - "ndcg_at_1000": 0.72893, - "map_at_1": 0.39254, - "map_at_3": 0.54185, - "map_at_5": 0.59217, - "map_at_10": 0.62675, - "map_at_50": 0.63507, - "map_at_100": 0.63516, - "map_at_1000": 0.63516, - "recall_at_1": 0.39254, - "recall_at_3": 0.59153, - "recall_at_5": 0.67736, - "recall_at_10": 0.75499, - "recall_at_50": 0.79273, - "recall_at_100": 0.79398, - "recall_at_1000": 0.79398, - "precision_at_1": 0.76295, - "precision_at_3": 0.45543, - "precision_at_5": 0.3377, - "precision_at_10": 0.20042, - "precision_at_50": 0.04319, - "precision_at_100": 0.02166, - "precision_at_1000": 0.00217, - "mrr_at_1": 0.76295, - "mrr_at_3": 0.81785, - "mrr_at_5": 0.823, - "mrr_at_10": 0.82528, - "mrr_at_50": 0.82578, - "mrr_at_100": 0.82578, - "mrr_at_1000": 0.82578 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.69543, - "ndcg_at_3": 0.65155, - "ndcg_at_5": 0.66218, - "ndcg_at_10": 0.67908, - "ndcg_at_50": 0.6912, - "ndcg_at_100": 0.69234, - "ndcg_at_1000": 0.69234, - "map_at_1": 0.40686, - "map_at_3": 0.54962, - "map_at_5": 0.58825, - "map_at_10": 0.60941, - "map_at_50": 0.61531, - "map_at_100": 0.61547, - "map_at_1000": 0.61547, - "recall_at_1": 0.40686, - "recall_at_3": 0.59725, - "recall_at_5": 0.66518, - "recall_at_10": 0.71528, - "recall_at_50": 0.75094, - "recall_at_100": 0.75643, - "recall_at_1000": 0.75643, - "precision_at_1": 0.69543, - "precision_at_3": 0.40899, - "precision_at_5": 0.29392, - "precision_at_10": 0.16717, - "precision_at_50": 0.03591, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00181, - "mrr_at_1": 0.69543, - "mrr_at_3": 0.75594, - "mrr_at_5": 0.76225, - "mrr_at_10": 0.76431, - "mrr_at_50": 0.76532, - "mrr_at_100": 0.76537, - "mrr_at_1000": 0.76537 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.52629, - "ndcg_at_3": 0.47813, - "ndcg_at_5": 0.48323, - "ndcg_at_10": 0.50949, - "ndcg_at_50": 0.52933, - "ndcg_at_100": 0.53022, - "ndcg_at_1000": 0.53022, - "map_at_1": 0.21597, - "map_at_3": 0.33467, - "map_at_5": 0.38047, - "map_at_10": 0.41435, - "map_at_50": 0.42431, - "map_at_100": 0.42442, - "map_at_1000": 0.42442, - "recall_at_1": 0.21597, - "recall_at_3": 0.38964, - "recall_at_5": 0.47372, - "recall_at_10": 0.55933, - "recall_at_50": 0.61763, - "recall_at_100": 0.62217, - "recall_at_1000": 0.62217, - "precision_at_1": 0.52629, - "precision_at_3": 0.36626, - "precision_at_5": 0.28573, - "precision_at_10": 0.1777, - "precision_at_50": 0.03962, - "precision_at_100": 0.01991, - "precision_at_1000": 0.00199, - "mrr_at_1": 0.52629, - "mrr_at_3": 0.60716, - "mrr_at_5": 0.61678, - "mrr_at_10": 0.62215, - "mrr_at_50": 0.62339, - "mrr_at_100": 0.62343, - "mrr_at_1000": 0.62343 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.63815, - "ndcg_at_3": 0.58574, - "ndcg_at_5": 0.58958, - "ndcg_at_10": 0.61313, - "ndcg_at_50": 0.63893, - "ndcg_at_100": 0.64044, - "ndcg_at_1000": 0.64044, - "map_at_1": 0.24741, - "map_at_3": 0.39493, - "map_at_5": 0.4601, - "map_at_10": 0.51385, - "map_at_50": 0.53011, - "map_at_100": 0.53048, - "map_at_1000": 0.53048, - "recall_at_1": 0.24741, - "recall_at_3": 0.44212, - "recall_at_5": 0.54992, - "recall_at_10": 0.65387, - "recall_at_50": 0.72032, - "recall_at_100": 0.72594, - "recall_at_1000": 0.72594, - "precision_at_1": 0.63815, - "precision_at_3": 0.46445, - "precision_at_5": 0.37635, - "precision_at_10": 0.24314, - "precision_at_50": 0.05518, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.63815, - "mrr_at_3": 0.71539, - "mrr_at_5": 0.72427, - "mrr_at_10": 0.72762, - "mrr_at_50": 0.72872, - "mrr_at_100": 0.72873, - "mrr_at_1000": 0.72873 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.5167, - "ndcg_at_3": 0.50838, - "ndcg_at_5": 0.51101, - "ndcg_at_10": 0.53088, - "ndcg_at_50": 0.55203, - "ndcg_at_100": 0.55309, - "ndcg_at_1000": 0.55309, - "map_at_1": 0.24874, - "map_at_3": 0.3646, - "map_at_5": 0.40984, - "map_at_10": 0.44578, - "map_at_50": 0.45717, - "map_at_100": 0.45736, - "map_at_1000": 0.45736, - "recall_at_1": 0.24874, - "recall_at_3": 0.41931, - "recall_at_5": 0.50118, - "recall_at_10": 0.58358, - "recall_at_50": 0.6416, - "recall_at_100": 0.64611, - "recall_at_1000": 0.64611, - "precision_at_1": 0.5167, - "precision_at_3": 0.36692, - "precision_at_5": 0.28822, - "precision_at_10": 0.18237, - "precision_at_50": 0.04134, - "precision_at_100": 0.02082, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.5167, - "mrr_at_3": 0.60164, - "mrr_at_5": 0.61324, - "mrr_at_10": 0.61845, - "mrr_at_50": 0.61972, - "mrr_at_100": 0.61976, - "mrr_at_1000": 0.61976 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.64451, - "ndcg_at_3": 0.61484, - "ndcg_at_5": 0.61949, - "ndcg_at_10": 0.66631, - "ndcg_at_50": 0.71863, - "ndcg_at_100": 0.72127, - "ndcg_at_1000": 0.72127, - "map_at_1": 0.2031, - "map_at_3": 0.40353, - "map_at_5": 0.48725, - "map_at_10": 0.56266, - "map_at_50": 0.58956, - "map_at_100": 0.59004, - "map_at_1000": 0.59004, - "recall_at_1": 0.2031, - "recall_at_3": 0.45971, - "recall_at_5": 0.58885, - "recall_at_10": 0.73589, - "recall_at_50": 0.88974, - "recall_at_100": 0.90198, - "recall_at_1000": 0.90198, - "precision_at_1": 0.64451, - "precision_at_3": 0.53276, - "precision_at_5": 0.43757, - "precision_at_10": 0.2896, - "precision_at_50": 0.06919, - "precision_at_100": 0.03491, - "precision_at_1000": 0.00349, - "mrr_at_1": 0.64451, - "mrr_at_3": 0.73651, - "mrr_at_5": 0.74504, - "mrr_at_10": 0.74928, - "mrr_at_50": 0.75218, - "mrr_at_100": 0.75234, - "mrr_at_1000": 0.75234 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.70871, - "ndcg_at_3": 0.64578, - "ndcg_at_5": 0.63794, - "ndcg_at_10": 0.69038, - "ndcg_at_50": 0.74238, - "ndcg_at_100": 0.74458, - "ndcg_at_1000": 0.74458, - "map_at_1": 0.21004, - "map_at_3": 0.39232, - "map_at_5": 0.48473, - "map_at_10": 0.58214, - "map_at_50": 0.61335, - "map_at_100": 0.6136, - "map_at_1000": 0.6136, - "recall_at_1": 0.21004, - "recall_at_3": 0.42668, - "recall_at_5": 0.56153, - "recall_at_10": 0.75361, - "recall_at_50": 0.89561, - "recall_at_100": 0.90812, - "recall_at_1000": 0.90812, - "precision_at_1": 0.70871, - "precision_at_3": 0.56857, - "precision_at_5": 0.47808, - "precision_at_10": 0.33303, - "precision_at_50": 0.07904, - "precision_at_100": 0.0397, - "precision_at_1000": 0.00397, - "mrr_at_1": 0.70871, - "mrr_at_3": 0.77427, - "mrr_at_5": 0.78178, - "mrr_at_10": 0.78767, - "mrr_at_50": 0.78891, - "mrr_at_100": 0.78904, - "mrr_at_1000": 0.78904 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.71893, - "ndcg_at_3": 0.67677, - "ndcg_at_5": 0.67524, - "ndcg_at_10": 0.71389, - "ndcg_at_50": 0.75706, - "ndcg_at_100": 0.75907, - "ndcg_at_1000": 0.75907, - "map_at_1": 0.22378, - "map_at_3": 0.42489, - "map_at_5": 0.52381, - "map_at_10": 0.61755, - "map_at_50": 0.64465, - "map_at_100": 0.64507, - "map_at_1000": 0.64507, - "recall_at_1": 0.22378, - "recall_at_3": 0.46534, - "recall_at_5": 0.60469, - "recall_at_10": 0.7657, - "recall_at_50": 0.88304, - "recall_at_100": 0.89126, - "recall_at_1000": 0.89126, - "precision_at_1": 0.71893, - "precision_at_3": 0.58679, - "precision_at_5": 0.49467, - "precision_at_10": 0.33757, - "precision_at_50": 0.07763, - "precision_at_100": 0.03914, - "precision_at_1000": 0.00391, - "mrr_at_1": 0.71893, - "mrr_at_3": 0.78649, - "mrr_at_5": 0.79196, - "mrr_at_10": 0.79509, - "mrr_at_50": 0.79776, - "mrr_at_100": 0.79776, - "mrr_at_1000": 0.79776 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.73746, - "ndcg_at_3": 0.6785, - "ndcg_at_5": 0.68665, - "ndcg_at_10": 0.74463, - "ndcg_at_50": 0.78883, - "ndcg_at_100": 0.79124, - "ndcg_at_1000": 0.79124, - "map_at_1": 0.24751, - "map_at_3": 0.46672, - "map_at_5": 0.55837, - "map_at_10": 0.64315, - "map_at_50": 0.67143, - "map_at_100": 0.6719, - "map_at_1000": 0.6719, - "recall_at_1": 0.24751, - "recall_at_3": 0.50962, - "recall_at_5": 0.64627, - "recall_at_10": 0.81521, - "recall_at_50": 0.9347, - "recall_at_100": 0.94537, - "recall_at_1000": 0.94537, - "precision_at_1": 0.73746, - "precision_at_3": 0.57522, - "precision_at_5": 0.46962, - "precision_at_10": 0.31593, - "precision_at_50": 0.07304, - "precision_at_100": 0.03681, - "precision_at_1000": 0.00368, - "mrr_at_1": 0.73746, - "mrr_at_3": 0.80678, - "mrr_at_5": 0.81622, - "mrr_at_10": 0.82092, - "mrr_at_50": 0.82229, - "mrr_at_100": 0.82235, - "mrr_at_1000": 0.82235 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.82337, - "ndcg_at_3": 0.76359, - "ndcg_at_5": 0.75845, - "ndcg_at_10": 0.80768, - "ndcg_at_50": 0.84735, - "ndcg_at_100": 0.84934, - "ndcg_at_1000": 0.84934, - "map_at_1": 0.30233, - "map_at_3": 0.52502, - "map_at_5": 0.62341, - "map_at_10": 0.71253, - "map_at_50": 0.73987, - "map_at_100": 0.74042, - "map_at_1000": 0.74042, - "recall_at_1": 0.30233, - "recall_at_3": 0.56667, - "recall_at_5": 0.70384, - "recall_at_10": 0.86145, - "recall_at_50": 0.9605, - "recall_at_100": 0.96775, - "recall_at_1000": 0.96775, - "precision_at_1": 0.82337, - "precision_at_3": 0.63134, - "precision_at_5": 0.51304, - "precision_at_10": 0.34022, - "precision_at_50": 0.07777, - "precision_at_100": 0.03921, - "precision_at_1000": 0.00392, - "mrr_at_1": 0.82337, - "mrr_at_3": 0.87998, - "mrr_at_5": 0.88392, - "mrr_at_10": 0.8854, - "mrr_at_50": 0.88627, - "mrr_at_100": 0.88627, - "mrr_at_1000": 0.88627 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.61905, - "ndcg_at_3": 0.57956, - "ndcg_at_5": 0.59248, - "ndcg_at_10": 0.6421, - "ndcg_at_50": 0.68274, - "ndcg_at_100": 0.68668, - "ndcg_at_1000": 0.68668, - "map_at_1": 0.26041, - "map_at_3": 0.43028, - "map_at_5": 0.49644, - "map_at_10": 0.55076, - "map_at_50": 0.57253, - "map_at_100": 0.57319, - "map_at_1000": 0.57319, - "recall_at_1": 0.26041, - "recall_at_3": 0.4797, - "recall_at_5": 0.58959, - "recall_at_10": 0.72007, - "recall_at_50": 0.83945, - "recall_at_100": 0.85765, - "recall_at_1000": 0.85765, - "precision_at_1": 0.61905, - "precision_at_3": 0.44544, - "precision_at_5": 0.35357, - "precision_at_10": 0.22976, - "precision_at_50": 0.0547, - "precision_at_100": 0.02786, - "precision_at_1000": 0.00279, - "mrr_at_1": 0.61905, - "mrr_at_3": 0.69147, - "mrr_at_5": 0.70025, - "mrr_at_10": 0.70725, - "mrr_at_50": 0.70909, - "mrr_at_100": 0.70928, - "mrr_at_1000": 0.70928 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.70986, - "ndcg_at_3": 0.65825, - "ndcg_at_5": 0.67786, - "ndcg_at_10": 0.72967, - "ndcg_at_50": 0.75989, - "ndcg_at_100": 0.76066, - "ndcg_at_1000": 0.76066, - "map_at_1": 0.34677, - "map_at_3": 0.52685, - "map_at_5": 0.58388, - "map_at_10": 0.63205, - "map_at_50": 0.6479, - "map_at_100": 0.64802, - "map_at_1000": 0.64802, - "recall_at_1": 0.34677, - "recall_at_3": 0.58761, - "recall_at_5": 0.6933, - "recall_at_10": 0.81797, - "recall_at_50": 0.90891, - "recall_at_100": 0.91299, - "recall_at_1000": 0.91299, - "precision_at_1": 0.70986, - "precision_at_3": 0.477, - "precision_at_5": 0.36113, - "precision_at_10": 0.22423, - "precision_at_50": 0.05048, - "precision_at_100": 0.02532, - "precision_at_1000": 0.00253, - "mrr_at_1": 0.70986, - "mrr_at_3": 0.78498, - "mrr_at_5": 0.793, - "mrr_at_10": 0.79629, - "mrr_at_50": 0.79788, - "mrr_at_100": 0.79791, - "mrr_at_1000": 0.79791 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.70868, - "ndcg_at_3": 0.63666, - "ndcg_at_5": 0.6661, - "ndcg_at_10": 0.71901, - "ndcg_at_50": 0.7471, - "ndcg_at_100": 0.74975, - "ndcg_at_1000": 0.74975, - "map_at_1": 0.33903, - "map_at_3": 0.51216, - "map_at_5": 0.57269, - "map_at_10": 0.61938, - "map_at_50": 0.63391, - "map_at_100": 0.63423, - "map_at_1000": 0.63423, - "recall_at_1": 0.33903, - "recall_at_3": 0.56631, - "recall_at_5": 0.68412, - "recall_at_10": 0.80913, - "recall_at_50": 0.88975, - "recall_at_100": 0.90463, - "recall_at_1000": 0.90463, - "precision_at_1": 0.70868, - "precision_at_3": 0.45005, - "precision_at_5": 0.34734, - "precision_at_10": 0.21653, - "precision_at_50": 0.04924, - "precision_at_100": 0.02485, - "precision_at_1000": 0.00248, - "mrr_at_1": 0.70868, - "mrr_at_3": 0.77684, - "mrr_at_5": 0.79057, - "mrr_at_10": 0.79325, - "mrr_at_50": 0.79436, - "mrr_at_100": 0.79449, - "mrr_at_1000": 0.79449 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.70161, - "ndcg_at_3": 0.65798, - "ndcg_at_5": 0.67339, - "ndcg_at_10": 0.71816, - "ndcg_at_50": 0.75864, - "ndcg_at_100": 0.7602, - "ndcg_at_1000": 0.7602, - "map_at_1": 0.37034, - "map_at_3": 0.53842, - "map_at_5": 0.58821, - "map_at_10": 0.62676, - "map_at_50": 0.64708, - "map_at_100": 0.64734, - "map_at_1000": 0.64734, - "recall_at_1": 0.37034, - "recall_at_3": 0.59205, - "recall_at_5": 0.68504, - "recall_at_10": 0.78957, - "recall_at_50": 0.9084, - "recall_at_100": 0.91588, - "recall_at_1000": 0.91588, - "precision_at_1": 0.70161, - "precision_at_3": 0.44624, - "precision_at_5": 0.33441, - "precision_at_10": 0.2043, - "precision_at_50": 0.04882, - "precision_at_100": 0.02457, - "precision_at_1000": 0.00246, - "mrr_at_1": 0.70161, - "mrr_at_3": 0.78181, - "mrr_at_5": 0.78961, - "mrr_at_10": 0.79463, - "mrr_at_50": 0.79609, - "mrr_at_100": 0.79615, - "mrr_at_1000": 0.79615 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.59563, - "ndcg_at_3": 0.55271, - "ndcg_at_5": 0.56375, - "ndcg_at_10": 0.61465, - "ndcg_at_50": 0.66694, - "ndcg_at_100": 0.67152, - "ndcg_at_1000": 0.67152, - "map_at_1": 0.25624, - "map_at_3": 0.40676, - "map_at_5": 0.46374, - "map_at_10": 0.5134, - "map_at_50": 0.53893, - "map_at_100": 0.53957, - "map_at_1000": 0.53957, - "recall_at_1": 0.25624, - "recall_at_3": 0.45471, - "recall_at_5": 0.55717, - "recall_at_10": 0.68933, - "recall_at_50": 0.84703, - "recall_at_100": 0.86966, - "recall_at_1000": 0.86966, - "precision_at_1": 0.59563, - "precision_at_3": 0.42623, - "precision_at_5": 0.33661, - "precision_at_10": 0.21913, - "precision_at_50": 0.05415, - "precision_at_100": 0.02757, - "precision_at_1000": 0.00276, - "mrr_at_1": 0.59563, - "mrr_at_3": 0.67896, - "mrr_at_5": 0.68825, - "mrr_at_10": 0.69664, - "mrr_at_50": 0.69987, - "mrr_at_100": 0.70013, - "mrr_at_1000": 0.70013 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.61081, - "ndcg_at_3": 0.59884, - "ndcg_at_5": 0.64257, - "ndcg_at_10": 0.70132, - "ndcg_at_50": 0.74065, - "ndcg_at_100": 0.74293, - "ndcg_at_1000": 0.74293, - "map_at_1": 0.34111, - "map_at_3": 0.49994, - "map_at_5": 0.56172, - "map_at_10": 0.60729, - "map_at_50": 0.62404, - "map_at_100": 0.6244, - "map_at_1000": 0.6244, - "recall_at_1": 0.34111, - "recall_at_3": 0.57322, - "recall_at_5": 0.7014, - "recall_at_10": 0.8432, - "recall_at_50": 0.9736, - "recall_at_100": 0.98495, - "recall_at_1000": 0.98495, - "precision_at_1": 0.61081, - "precision_at_3": 0.4009, - "precision_at_5": 0.31459, - "precision_at_10": 0.19757, - "precision_at_50": 0.04616, - "precision_at_100": 0.0233, - "precision_at_1000": 0.00233, - "mrr_at_1": 0.61081, - "mrr_at_3": 0.69324, - "mrr_at_5": 0.70541, - "mrr_at_10": 0.71437, - "mrr_at_50": 0.71849, - "mrr_at_100": 0.71858, - "mrr_at_1000": 0.71858 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.52761, - "ndcg_at_3": 0.55237, - "ndcg_at_5": 0.60178, - "ndcg_at_10": 0.65507, - "ndcg_at_50": 0.69035, - "ndcg_at_100": 0.69405, - "ndcg_at_1000": 0.69405, - "map_at_1": 0.35299, - "map_at_3": 0.47903, - "map_at_5": 0.53097, - "map_at_10": 0.56977, - "map_at_50": 0.58228, - "map_at_100": 0.58264, - "map_at_1000": 0.58264, - "recall_at_1": 0.35299, - "recall_at_3": 0.55979, - "recall_at_5": 0.67744, - "recall_at_10": 0.80171, - "recall_at_50": 0.93354, - "recall_at_100": 0.95501, - "recall_at_1000": 0.95501, - "precision_at_1": 0.52761, - "precision_at_3": 0.3272, - "precision_at_5": 0.25706, - "precision_at_10": 0.16227, - "precision_at_50": 0.03693, - "precision_at_100": 0.01874, - "precision_at_1000": 0.00187, - "mrr_at_1": 0.52761, - "mrr_at_3": 0.62423, - "mrr_at_5": 0.64126, - "mrr_at_10": 0.64854, - "mrr_at_50": 0.65319, - "mrr_at_100": 0.65347, - "mrr_at_1000": 0.65347 - }, - "gpt3": { - "ndcg_at_1": 0.43027, - "ndcg_at_3": 0.51888, - "ndcg_at_5": 0.56656, - "ndcg_at_10": 0.6048, - "ndcg_at_50": 0.6402, - "ndcg_at_100": 0.64603, - "ndcg_at_1000": 0.64603, - "map_at_1": 0.33778, - "map_at_3": 0.46637, - "map_at_5": 0.49932, - "map_at_10": 0.52101, - "map_at_50": 0.53247, - "map_at_100": 0.53312, - "map_at_1000": 0.53312, - "recall_at_1": 0.33778, - "recall_at_3": 0.58531, - "recall_at_5": 0.68917, - "recall_at_10": 0.78833, - "recall_at_50": 0.92359, - "recall_at_100": 0.95722, - "recall_at_1000": 0.95722, - "precision_at_1": 0.43027, - "precision_at_3": 0.26904, - "precision_at_5": 0.19703, - "precision_at_10": 0.11632, - "precision_at_50": 0.02736, - "precision_at_100": 0.01409, - "precision_at_1000": 0.00141, - "mrr_at_1": 0.43027, - "mrr_at_3": 0.5455, - "mrr_at_5": 0.56494, - "mrr_at_10": 0.5749, - "mrr_at_50": 0.58006, - "mrr_at_100": 0.58052, - "mrr_at_1000": 0.58052 - }, - "llm-survey": { - "ndcg_at_1": 0.54062, - "ndcg_at_3": 0.5351, - "ndcg_at_5": 0.55717, - "ndcg_at_10": 0.61019, - "ndcg_at_50": 0.64972, - "ndcg_at_100": 0.65637, - "ndcg_at_1000": 0.65637, - "map_at_1": 0.25664, - "map_at_3": 0.42169, - "map_at_5": 0.47197, - "map_at_10": 0.51731, - "map_at_50": 0.53591, - "map_at_100": 0.53672, - "map_at_1000": 0.53672, - "recall_at_1": 0.25664, - "recall_at_3": 0.48514, - "recall_at_5": 0.58167, - "recall_at_10": 0.71488, - "recall_at_50": 0.83914, - "recall_at_100": 0.87462, - "recall_at_1000": 0.87462, - "precision_at_1": 0.54062, - "precision_at_3": 0.39496, - "precision_at_5": 0.30084, - "precision_at_10": 0.19328, - "precision_at_50": 0.04566, - "precision_at_100": 0.02342, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.54062, - "mrr_at_3": 0.63212, - "mrr_at_5": 0.64514, - "mrr_at_10": 0.65403, - "mrr_at_50": 0.65695, - "mrr_at_100": 0.65727, - "mrr_at_1000": 0.65727 - }, - "gemini": { - "ndcg_at_1": 0.48193, - "ndcg_at_3": 0.60518, - "ndcg_at_5": 0.63473, - "ndcg_at_10": 0.64923, - "ndcg_at_50": 0.67625, - "ndcg_at_100": 0.68084, - "ndcg_at_1000": 0.68084, - "map_at_1": 0.48193, - "map_at_3": 0.5743, - "map_at_5": 0.59056, - "map_at_10": 0.59667, - "map_at_50": 0.60305, - "map_at_100": 0.60346, - "map_at_1000": 0.60346, - "recall_at_1": 0.48193, - "recall_at_3": 0.69478, - "recall_at_5": 0.76707, - "recall_at_10": 0.81124, - "recall_at_50": 0.92771, - "recall_at_100": 0.95582, - "recall_at_1000": 0.95582, - "precision_at_1": 0.48193, - "precision_at_3": 0.23159, - "precision_at_5": 0.15341, - "precision_at_10": 0.08112, - "precision_at_50": 0.01855, - "precision_at_100": 0.00956, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.48193, - "mrr_at_3": 0.5743, - "mrr_at_5": 0.59056, - "mrr_at_10": 0.59667, - "mrr_at_50": 0.60306, - "mrr_at_100": 0.60347, - "mrr_at_1000": 0.60347 - } - } - } - } - } - }, - "[BM25](https://github.com/castorini/pyserini)": { - "NoReranker": { - "qa": { - "law": { - "zh": { - "default": { - "ndcg_at_1": 0.3681, - "ndcg_at_3": 0.33233, - "ndcg_at_5": 0.34096, - "ndcg_at_10": 0.37935, - "ndcg_at_50": 0.45462, - "ndcg_at_100": 0.47348, - "ndcg_at_1000": 0.50086, - "map_at_1": 0.15553, - "map_at_3": 0.2294, - "map_at_5": 0.25931, - "map_at_10": 0.29157, - "map_at_50": 0.32101, - "map_at_100": 0.32423, - "map_at_1000": 0.32614, - "recall_at_1": 0.15553, - "recall_at_3": 0.27006, - "recall_at_5": 0.33883, - "recall_at_10": 0.44142, - "recall_at_50": 0.66884, - "recall_at_100": 0.7482, - "recall_at_1000": 0.89953, - "precision_at_1": 0.3681, - "precision_at_3": 0.24798, - "precision_at_5": 0.19801, - "precision_at_10": 0.13896, - "precision_at_50": 0.04511, - "precision_at_100": 0.02545, - "precision_at_1000": 0.00307, - "mrr_at_1": 0.36729, - "mrr_at_3": 0.43915, - "mrr_at_5": 0.45487, - "mrr_at_10": 0.46599, - "mrr_at_50": 0.47274, - "mrr_at_100": 0.47339, - "mrr_at_1000": 0.47377 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.19489, - "ndcg_at_3": 0.17501, - "ndcg_at_5": 0.17779, - "ndcg_at_10": 0.19269, - "ndcg_at_50": 0.23367, - "ndcg_at_100": 0.24737, - "ndcg_at_1000": 0.28413, - "map_at_1": 0.09239, - "map_at_3": 0.12691, - "map_at_5": 0.1395, - "map_at_10": 0.15283, - "map_at_50": 0.16735, - "map_at_100": 0.16931, - "map_at_1000": 0.17109, - "recall_at_1": 0.09239, - "recall_at_3": 0.14608, - "recall_at_5": 0.17516, - "recall_at_10": 0.22005, - "recall_at_50": 0.3426, - "recall_at_100": 0.40137, - "recall_at_1000": 0.61857, - "precision_at_1": 0.19489, - "precision_at_3": 0.11975, - "precision_at_5": 0.09217, - "precision_at_10": 0.06441, - "precision_at_50": 0.02293, - "precision_at_100": 0.0136, - "precision_at_1000": 0.0021, - "mrr_at_1": 0.19489, - "mrr_at_3": 0.22617, - "mrr_at_5": 0.23356, - "mrr_at_10": 0.24055, - "mrr_at_50": 0.24671, - "mrr_at_100": 0.24747, - "mrr_at_1000": 0.24817 - } - } - }, - "news": { - "zh": { - "default": { - "ndcg_at_1": 0.15439, - "ndcg_at_3": 0.14117, - "ndcg_at_5": 0.14168, - "ndcg_at_10": 0.15264, - "ndcg_at_50": 0.1895, - "ndcg_at_100": 0.20309, - "ndcg_at_1000": 0.2399, - "map_at_1": 0.04846, - "map_at_3": 0.08034, - "map_at_5": 0.09423, - "map_at_10": 0.10805, - "map_at_50": 0.12116, - "map_at_100": 0.12319, - "map_at_1000": 0.12514, - "recall_at_1": 0.04846, - "recall_at_3": 0.09918, - "recall_at_5": 0.13058, - "recall_at_10": 0.17369, - "recall_at_50": 0.27614, - "recall_at_100": 0.32756, - "recall_at_1000": 0.5168, - "precision_at_1": 0.15439, - "precision_at_3": 0.11727, - "precision_at_5": 0.09782, - "precision_at_10": 0.07042, - "precision_at_50": 0.02437, - "precision_at_100": 0.01467, - "precision_at_1000": 0.00234, - "mrr_at_1": 0.15439, - "mrr_at_3": 0.19417, - "mrr_at_5": 0.20448, - "mrr_at_10": 0.21227, - "mrr_at_50": 0.21829, - "mrr_at_100": 0.21912, - "mrr_at_1000": 0.21983 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.39157, - "ndcg_at_3": 0.3792, - "ndcg_at_5": 0.38644, - "ndcg_at_10": 0.41152, - "ndcg_at_50": 0.47272, - "ndcg_at_100": 0.48757, - "ndcg_at_1000": 0.51317, - "map_at_1": 0.18549, - "map_at_3": 0.27182, - "map_at_5": 0.30639, - "map_at_10": 0.34159, - "map_at_50": 0.36876, - "map_at_100": 0.37129, - "map_at_1000": 0.37296, - "recall_at_1": 0.18549, - "recall_at_3": 0.30799, - "recall_at_5": 0.37179, - "recall_at_10": 0.45823, - "recall_at_50": 0.63028, - "recall_at_100": 0.68977, - "recall_at_1000": 0.83277, - "precision_at_1": 0.39157, - "precision_at_3": 0.27261, - "precision_at_5": 0.2228, - "precision_at_10": 0.1562, - "precision_at_50": 0.04771, - "precision_at_100": 0.02636, - "precision_at_1000": 0.00315, - "mrr_at_1": 0.39157, - "mrr_at_3": 0.45498, - "mrr_at_5": 0.4683, - "mrr_at_10": 0.47732, - "mrr_at_50": 0.48314, - "mrr_at_100": 0.48368, - "mrr_at_1000": 0.48403 - } - } - }, - "msmarco": { - "en": { - "default": { - "ndcg_at_1": 0.35987, - "ndcg_at_3": 0.33239, - "ndcg_at_5": 0.32591, - "ndcg_at_10": 0.34154, - "ndcg_at_50": 0.41877, - "ndcg_at_100": 0.43888, - "ndcg_at_1000": 0.47593, - "map_at_1": 0.10858, - "map_at_3": 0.18775, - "map_at_5": 0.22154, - "map_at_10": 0.25656, - "map_at_50": 0.29026, - "map_at_100": 0.29407, - "map_at_1000": 0.29697, - "recall_at_1": 0.10858, - "recall_at_3": 0.2177, - "recall_at_5": 0.27944, - "recall_at_10": 0.36675, - "recall_at_50": 0.56594, - "recall_at_100": 0.63782, - "recall_at_1000": 0.81477, - "precision_at_1": 0.35987, - "precision_at_3": 0.28227, - "precision_at_5": 0.23652, - "precision_at_10": 0.16878, - "precision_at_50": 0.05711, - "precision_at_100": 0.03259, - "precision_at_1000": 0.00419, - "mrr_at_1": 0.35987, - "mrr_at_3": 0.42868, - "mrr_at_5": 0.44492, - "mrr_at_10": 0.45507, - "mrr_at_50": 0.46207, - "mrr_at_100": 0.46268, - "mrr_at_1000": 0.46305 - } - } - }, - "healthcare": { - "zh": { - "default": { - "ndcg_at_1": 0.20971, - "ndcg_at_3": 0.18165, - "ndcg_at_5": 0.17131, - "ndcg_at_10": 0.18083, - "ndcg_at_50": 0.25429, - "ndcg_at_100": 0.27896, - "ndcg_at_1000": 0.33881, - "map_at_1": 0.04435, - "map_at_3": 0.07889, - "map_at_5": 0.09418, - "map_at_10": 0.11118, - "map_at_50": 0.13587, - "map_at_100": 0.14018, - "map_at_1000": 0.14456, - "recall_at_1": 0.04435, - "recall_at_3": 0.10015, - "recall_at_5": 0.13493, - "recall_at_10": 0.19113, - "recall_at_50": 0.37874, - "recall_at_100": 0.46406, - "recall_at_1000": 0.74527, - "precision_at_1": 0.20971, - "precision_at_3": 0.16453, - "precision_at_5": 0.13853, - "precision_at_10": 0.10309, - "precision_at_50": 0.04363, - "precision_at_100": 0.02695, - "precision_at_1000": 0.00423, - "mrr_at_1": 0.20971, - "mrr_at_3": 0.27348, - "mrr_at_5": 0.28978, - "mrr_at_10": 0.30214, - "mrr_at_50": 0.31205, - "mrr_at_100": 0.31293, - "mrr_at_1000": 0.31353 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.33978, - "ndcg_at_3": 0.31717, - "ndcg_at_5": 0.32726, - "ndcg_at_10": 0.35596, - "ndcg_at_50": 0.4045, - "ndcg_at_100": 0.41808, - "ndcg_at_1000": 0.4453, - "map_at_1": 0.1456, - "map_at_3": 0.23144, - "map_at_5": 0.25804, - "map_at_10": 0.27997, - "map_at_50": 0.2972, - "map_at_100": 0.29919, - "map_at_1000": 0.3008, - "recall_at_1": 0.1456, - "recall_at_3": 0.27624, - "recall_at_5": 0.33843, - "recall_at_10": 0.41482, - "recall_at_50": 0.56272, - "recall_at_100": 0.62252, - "recall_at_1000": 0.78208, - "precision_at_1": 0.33978, - "precision_at_3": 0.23745, - "precision_at_5": 0.18184, - "precision_at_10": 0.11746, - "precision_at_50": 0.03427, - "precision_at_100": 0.01905, - "precision_at_1000": 0.0024, - "mrr_at_1": 0.33978, - "mrr_at_3": 0.4089, - "mrr_at_5": 0.42293, - "mrr_at_10": 0.43181, - "mrr_at_50": 0.43758, - "mrr_at_100": 0.43817, - "mrr_at_1000": 0.43858 - } - } - }, - "finance": { - "zh": { - "default": { - "ndcg_at_1": 0.1867, - "ndcg_at_3": 0.16196, - "ndcg_at_5": 0.15889, - "ndcg_at_10": 0.17017, - "ndcg_at_50": 0.2197, - "ndcg_at_100": 0.23636, - "ndcg_at_1000": 0.27919, - "map_at_1": 0.05686, - "map_at_3": 0.08853, - "map_at_5": 0.10324, - "map_at_10": 0.11851, - "map_at_50": 0.13522, - "map_at_100": 0.13775, - "map_at_1000": 0.14023, - "recall_at_1": 0.05686, - "recall_at_3": 0.10448, - "recall_at_5": 0.13773, - "recall_at_10": 0.18292, - "recall_at_50": 0.31794, - "recall_at_100": 0.38005, - "recall_at_1000": 0.60049, - "precision_at_1": 0.1867, - "precision_at_3": 0.13463, - "precision_at_5": 0.11269, - "precision_at_10": 0.08188, - "precision_at_50": 0.03053, - "precision_at_100": 0.01833, - "precision_at_1000": 0.00283, - "mrr_at_1": 0.18726, - "mrr_at_3": 0.22964, - "mrr_at_5": 0.24202, - "mrr_at_10": 0.25195, - "mrr_at_50": 0.26046, - "mrr_at_100": 0.26136, - "mrr_at_1000": 0.26205 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.37918, - "ndcg_at_3": 0.40043, - "ndcg_at_5": 0.41888, - "ndcg_at_10": 0.44347, - "ndcg_at_50": 0.48035, - "ndcg_at_100": 0.4896, - "ndcg_at_1000": 0.50748, - "map_at_1": 0.24363, - "map_at_3": 0.33816, - "map_at_5": 0.36605, - "map_at_10": 0.38871, - "map_at_50": 0.40285, - "map_at_100": 0.40415, - "map_at_1000": 0.40503, - "recall_at_1": 0.24363, - "recall_at_3": 0.39142, - "recall_at_5": 0.45381, - "recall_at_10": 0.52074, - "recall_at_50": 0.64107, - "recall_at_100": 0.68653, - "recall_at_1000": 0.80986, - "precision_at_1": 0.37918, - "precision_at_3": 0.23975, - "precision_at_5": 0.18095, - "precision_at_10": 0.11394, - "precision_at_50": 0.03015, - "precision_at_100": 0.01616, - "precision_at_1000": 0.00186, - "mrr_at_1": 0.37918, - "mrr_at_3": 0.4428, - "mrr_at_5": 0.45327, - "mrr_at_10": 0.4582, - "mrr_at_50": 0.46295, - "mrr_at_100": 0.46344, - "mrr_at_1000": 0.46386 - } - } - }, - "wiki": { - "zh": { - "default": { - "ndcg_at_1": 0.36331, - "ndcg_at_3": 0.3473, - "ndcg_at_5": 0.36479, - "ndcg_at_10": 0.3944, - "ndcg_at_50": 0.43704, - "ndcg_at_100": 0.44819, - "ndcg_at_1000": 0.4704, - "map_at_1": 0.19512, - "map_at_3": 0.27191, - "map_at_5": 0.29592, - "map_at_10": 0.3159, - "map_at_50": 0.33024, - "map_at_100": 0.33171, - "map_at_1000": 0.33291, - "recall_at_1": 0.19512, - "recall_at_3": 0.32951, - "recall_at_5": 0.39411, - "recall_at_10": 0.46932, - "recall_at_50": 0.60761, - "recall_at_100": 0.65687, - "recall_at_1000": 0.78582, - "precision_at_1": 0.36331, - "precision_at_3": 0.22652, - "precision_at_5": 0.17034, - "precision_at_10": 0.10828, - "precision_at_50": 0.03014, - "precision_at_100": 0.01663, - "precision_at_1000": 0.00208, - "mrr_at_1": 0.36391, - "mrr_at_3": 0.44272, - "mrr_at_5": 0.45809, - "mrr_at_10": 0.46628, - "mrr_at_50": 0.47255, - "mrr_at_100": 0.47321, - "mrr_at_1000": 0.47355 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.44412, - "ndcg_at_3": 0.44537, - "ndcg_at_5": 0.45767, - "ndcg_at_10": 0.48321, - "ndcg_at_50": 0.51873, - "ndcg_at_100": 0.52702, - "ndcg_at_1000": 0.54636, - "map_at_1": 0.26747, - "map_at_3": 0.37419, - "map_at_5": 0.39687, - "map_at_10": 0.41571, - "map_at_50": 0.4287, - "map_at_100": 0.42982, - "map_at_1000": 0.43082, - "recall_at_1": 0.26747, - "recall_at_3": 0.43376, - "recall_at_5": 0.48615, - "recall_at_10": 0.55437, - "recall_at_50": 0.66964, - "recall_at_100": 0.70812, - "recall_at_1000": 0.82314, - "precision_at_1": 0.44412, - "precision_at_3": 0.27485, - "precision_at_5": 0.19537, - "precision_at_10": 0.11882, - "precision_at_50": 0.03075, - "precision_at_100": 0.01647, - "precision_at_1000": 0.00199, - "mrr_at_1": 0.44412, - "mrr_at_3": 0.51718, - "mrr_at_5": 0.5278, - "mrr_at_10": 0.53486, - "mrr_at_50": 0.53904, - "mrr_at_100": 0.53944, - "mrr_at_1000": 0.5398 - } - } - }, - "arxiv": { - "en": { - "default": { - "ndcg_at_1": 0.30618, - "ndcg_at_3": 0.28773, - "ndcg_at_5": 0.29935, - "ndcg_at_10": 0.32842, - "ndcg_at_50": 0.39213, - "ndcg_at_100": 0.40809, - "ndcg_at_1000": 0.43927, - "map_at_1": 0.13337, - "map_at_3": 0.19964, - "map_at_5": 0.22583, - "map_at_10": 0.24913, - "map_at_50": 0.27285, - "map_at_100": 0.27556, - "map_at_1000": 0.27747, - "recall_at_1": 0.13337, - "recall_at_3": 0.2441, - "recall_at_5": 0.30804, - "recall_at_10": 0.38813, - "recall_at_50": 0.57872, - "recall_at_100": 0.64485, - "recall_at_1000": 0.8305, - "precision_at_1": 0.30618, - "precision_at_3": 0.21202, - "precision_at_5": 0.17169, - "precision_at_10": 0.11681, - "precision_at_50": 0.03798, - "precision_at_100": 0.02147, - "precision_at_1000": 0.00269, - "mrr_at_1": 0.30618, - "mrr_at_3": 0.38186, - "mrr_at_5": 0.39697, - "mrr_at_10": 0.40704, - "mrr_at_50": 0.41338, - "mrr_at_100": 0.41388, - "mrr_at_1000": 0.41433 - } - } - }, - "web": { - "zh": { - "default": { - "ndcg_at_1": 0.36126, - "ndcg_at_3": 0.32152, - "ndcg_at_5": 0.31747, - "ndcg_at_10": 0.33812, - "ndcg_at_50": 0.39167, - "ndcg_at_100": 0.40659, - "ndcg_at_1000": 0.4377, - "map_at_1": 0.15214, - "map_at_3": 0.21819, - "map_at_5": 0.23978, - "map_at_10": 0.26234, - "map_at_50": 0.28284, - "map_at_100": 0.28521, - "map_at_1000": 0.28709, - "recall_at_1": 0.15214, - "recall_at_3": 0.25317, - "recall_at_5": 0.2986, - "recall_at_10": 0.37241, - "recall_at_50": 0.52175, - "recall_at_100": 0.57981, - "recall_at_1000": 0.74868, - "precision_at_1": 0.36126, - "precision_at_3": 0.2349, - "precision_at_5": 0.17873, - "precision_at_10": 0.12139, - "precision_at_50": 0.03846, - "precision_at_100": 0.02184, - "precision_at_1000": 0.00284, - "mrr_at_1": 0.36126, - "mrr_at_3": 0.42236, - "mrr_at_5": 0.43401, - "mrr_at_10": 0.4448, - "mrr_at_50": 0.45123, - "mrr_at_100": 0.45189, - "mrr_at_1000": 0.45232 - } - }, - "en": { - "default": { - "ndcg_at_1": 0.33509, - "ndcg_at_3": 0.32306, - "ndcg_at_5": 0.32825, - "ndcg_at_10": 0.34689, - "ndcg_at_50": 0.39465, - "ndcg_at_100": 0.40831, - "ndcg_at_1000": 0.43794, - "map_at_1": 0.19071, - "map_at_3": 0.25032, - "map_at_5": 0.26855, - "map_at_10": 0.28491, - "map_at_50": 0.30129, - "map_at_100": 0.30346, - "map_at_1000": 0.30521, - "recall_at_1": 0.19071, - "recall_at_3": 0.28786, - "recall_at_5": 0.33196, - "recall_at_10": 0.39105, - "recall_at_50": 0.53338, - "recall_at_100": 0.58899, - "recall_at_1000": 0.75057, - "precision_at_1": 0.33509, - "precision_at_3": 0.20445, - "precision_at_5": 0.15466, - "precision_at_10": 0.10076, - "precision_at_50": 0.03168, - "precision_at_100": 0.01809, - "precision_at_1000": 0.00244, - "mrr_at_1": 0.33509, - "mrr_at_3": 0.39572, - "mrr_at_5": 0.40721, - "mrr_at_10": 0.41691, - "mrr_at_50": 0.42361, - "mrr_at_100": 0.42419, - "mrr_at_1000": 0.42465 - } - } - } - }, - "long-doc": { - "law": { - "en": { - "lex_files_500K-600K": { - "ndcg_at_1": 0.33237, - "ndcg_at_3": 0.33158, - "ndcg_at_5": 0.32833, - "ndcg_at_10": 0.36844, - "ndcg_at_50": 0.45147, - "ndcg_at_100": 0.47368, - "ndcg_at_1000": 0.50717, - "map_at_1": 0.09851, - "map_at_3": 0.20148, - "map_at_5": 0.23908, - "map_at_10": 0.27958, - "map_at_50": 0.31462, - "map_at_100": 0.31829, - "map_at_1000": 0.32064, - "recall_at_1": 0.09851, - "recall_at_3": 0.2488, - "recall_at_5": 0.31177, - "recall_at_10": 0.42991, - "recall_at_50": 0.66982, - "recall_at_100": 0.76189, - "recall_at_1000": 0.95099, - "precision_at_1": 0.33237, - "precision_at_3": 0.29383, - "precision_at_5": 0.23699, - "precision_at_10": 0.16994, - "precision_at_50": 0.05393, - "precision_at_100": 0.03043, - "precision_at_1000": 0.00367, - "mrr_at_1": 0.33237, - "mrr_at_3": 0.42389, - "mrr_at_5": 0.43242, - "mrr_at_10": 0.44495, - "mrr_at_50": 0.4528, - "mrr_at_100": 0.45362, - "mrr_at_1000": 0.45397 - }, - "lex_files_400K-500K": { - "ndcg_at_1": 0.36637, - "ndcg_at_3": 0.34292, - "ndcg_at_5": 0.33749, - "ndcg_at_10": 0.37604, - "ndcg_at_50": 0.46504, - "ndcg_at_100": 0.48638, - "ndcg_at_1000": 0.52297, - "map_at_1": 0.10111, - "map_at_3": 0.19594, - "map_at_5": 0.23714, - "map_at_10": 0.28475, - "map_at_50": 0.32512, - "map_at_100": 0.32865, - "map_at_1000": 0.33124, - "recall_at_1": 0.10111, - "recall_at_3": 0.22743, - "recall_at_5": 0.30074, - "recall_at_10": 0.42827, - "recall_at_50": 0.67273, - "recall_at_100": 0.76009, - "recall_at_1000": 0.95653, - "precision_at_1": 0.36637, - "precision_at_3": 0.3043, - "precision_at_5": 0.25526, - "precision_at_10": 0.18739, - "precision_at_50": 0.06078, - "precision_at_100": 0.03387, - "precision_at_1000": 0.00414, - "mrr_at_1": 0.36637, - "mrr_at_3": 0.43994, - "mrr_at_5": 0.4536, - "mrr_at_10": 0.4654, - "mrr_at_50": 0.47221, - "mrr_at_100": 0.4732, - "mrr_at_1000": 0.47366 - }, - "lex_files_600K-700K": { - "ndcg_at_1": 0.45266, - "ndcg_at_3": 0.41193, - "ndcg_at_5": 0.40054, - "ndcg_at_10": 0.43382, - "ndcg_at_50": 0.52635, - "ndcg_at_100": 0.54193, - "ndcg_at_1000": 0.57094, - "map_at_1": 0.13906, - "map_at_3": 0.25187, - "map_at_5": 0.29602, - "map_at_10": 0.34759, - "map_at_50": 0.38913, - "map_at_100": 0.39213, - "map_at_1000": 0.3942, - "recall_at_1": 0.13906, - "recall_at_3": 0.27951, - "recall_at_5": 0.35202, - "recall_at_10": 0.47181, - "recall_at_50": 0.73021, - "recall_at_100": 0.79027, - "recall_at_1000": 0.94457, - "precision_at_1": 0.45266, - "precision_at_3": 0.35404, - "precision_at_5": 0.28521, - "precision_at_10": 0.20385, - "precision_at_50": 0.06497, - "precision_at_100": 0.03521, - "precision_at_1000": 0.00411, - "mrr_at_1": 0.45266, - "mrr_at_3": 0.51282, - "mrr_at_5": 0.52199, - "mrr_at_10": 0.53142, - "mrr_at_50": 0.53901, - "mrr_at_100": 0.53953, - "mrr_at_1000": 0.53998 - }, - "lex_files_300K-400K": { - "ndcg_at_1": 0.42183, - "ndcg_at_3": 0.40072, - "ndcg_at_5": 0.40766, - "ndcg_at_10": 0.44496, - "ndcg_at_50": 0.52679, - "ndcg_at_100": 0.54584, - "ndcg_at_1000": 0.57117, - "map_at_1": 0.13809, - "map_at_3": 0.26071, - "map_at_5": 0.30748, - "map_at_10": 0.35071, - "map_at_50": 0.38597, - "map_at_100": 0.3894, - "map_at_1000": 0.39144, - "recall_at_1": 0.13809, - "recall_at_3": 0.30507, - "recall_at_5": 0.38914, - "recall_at_10": 0.50174, - "recall_at_50": 0.7341, - "recall_at_100": 0.81296, - "recall_at_1000": 0.94848, - "precision_at_1": 0.42183, - "precision_at_3": 0.34513, - "precision_at_5": 0.28378, - "precision_at_10": 0.19292, - "precision_at_50": 0.05882, - "precision_at_100": 0.03242, - "precision_at_1000": 0.00373, - "mrr_at_1": 0.42183, - "mrr_at_3": 0.50836, - "mrr_at_5": 0.52517, - "mrr_at_10": 0.5337, - "mrr_at_50": 0.53956, - "mrr_at_100": 0.54001, - "mrr_at_1000": 0.54032 - } - } - }, - "healthcare": { - "en": { - "pubmed_30K-40K_10-merged": { - "ndcg_at_1": 0.61141, - "ndcg_at_3": 0.56078, - "ndcg_at_5": 0.56271, - "ndcg_at_10": 0.60119, - "ndcg_at_50": 0.68106, - "ndcg_at_100": 0.69484, - "ndcg_at_1000": 0.70728, - "map_at_1": 0.22223, - "map_at_3": 0.38507, - "map_at_5": 0.44733, - "map_at_10": 0.50008, - "map_at_50": 0.53954, - "map_at_100": 0.5426, - "map_at_1000": 0.54387, - "recall_at_1": 0.22223, - "recall_at_3": 0.42093, - "recall_at_5": 0.52939, - "recall_at_10": 0.65175, - "recall_at_50": 0.87181, - "recall_at_100": 0.92495, - "recall_at_1000": 0.98517, - "precision_at_1": 0.61141, - "precision_at_3": 0.46014, - "precision_at_5": 0.37446, - "precision_at_10": 0.24946, - "precision_at_50": 0.06989, - "precision_at_100": 0.03726, - "precision_at_1000": 0.00398, - "mrr_at_1": 0.61141, - "mrr_at_3": 0.67391, - "mrr_at_5": 0.69063, - "mrr_at_10": 0.69873, - "mrr_at_50": 0.70409, - "mrr_at_100": 0.70422, - "mrr_at_1000": 0.70428 - }, - "pubmed_40K-50K_5-merged": { - "ndcg_at_1": 0.46131, - "ndcg_at_3": 0.43764, - "ndcg_at_5": 0.44064, - "ndcg_at_10": 0.47791, - "ndcg_at_50": 0.54753, - "ndcg_at_100": 0.56152, - "ndcg_at_1000": 0.57933, - "map_at_1": 0.19896, - "map_at_3": 0.32636, - "map_at_5": 0.36367, - "map_at_10": 0.3956, - "map_at_50": 0.42398, - "map_at_100": 0.42636, - "map_at_1000": 0.42766, - "recall_at_1": 0.19896, - "recall_at_3": 0.37022, - "recall_at_5": 0.4412, - "recall_at_10": 0.539, - "recall_at_50": 0.74997, - "recall_at_100": 0.8082, - "recall_at_1000": 0.90714, - "precision_at_1": 0.46131, - "precision_at_3": 0.33135, - "precision_at_5": 0.24821, - "precision_at_10": 0.1622, - "precision_at_50": 0.04833, - "precision_at_100": 0.02631, - "precision_at_1000": 0.00293, - "mrr_at_1": 0.46131, - "mrr_at_3": 0.53571, - "mrr_at_5": 0.54464, - "mrr_at_10": 0.55486, - "mrr_at_50": 0.56046, - "mrr_at_100": 0.56105, - "mrr_at_1000": 0.56143 - }, - "pubmed_100K-200K_2": { - "ndcg_at_1": 0.46479, - "ndcg_at_3": 0.44724, - "ndcg_at_5": 0.46592, - "ndcg_at_10": 0.51769, - "ndcg_at_50": 0.59084, - "ndcg_at_100": 0.60651, - "ndcg_at_1000": 0.61801, - "map_at_1": 0.22386, - "map_at_3": 0.34004, - "map_at_5": 0.37944, - "map_at_10": 0.41746, - "map_at_50": 0.44617, - "map_at_100": 0.44883, - "map_at_1000": 0.44982, - "recall_at_1": 0.22386, - "recall_at_3": 0.41243, - "recall_at_5": 0.49554, - "recall_at_10": 0.61899, - "recall_at_50": 0.85305, - "recall_at_100": 0.92255, - "recall_at_1000": 0.98498, - "precision_at_1": 0.46479, - "precision_at_3": 0.31925, - "precision_at_5": 0.24338, - "precision_at_10": 0.16366, - "precision_at_50": 0.0467, - "precision_at_100": 0.02546, - "precision_at_1000": 0.00273, - "mrr_at_1": 0.46479, - "mrr_at_3": 0.56667, - "mrr_at_5": 0.57638, - "mrr_at_10": 0.58629, - "mrr_at_50": 0.59256, - "mrr_at_100": 0.59292, - "mrr_at_1000": 0.59311 - }, - "pubmed_100K-200K_3": { - "ndcg_at_1": 0.47059, - "ndcg_at_3": 0.45998, - "ndcg_at_5": 0.47721, - "ndcg_at_10": 0.52071, - "ndcg_at_50": 0.58149, - "ndcg_at_100": 0.59862, - "ndcg_at_1000": 0.61784, - "map_at_1": 0.23982, - "map_at_3": 0.36866, - "map_at_5": 0.40012, - "map_at_10": 0.43121, - "map_at_50": 0.45239, - "map_at_100": 0.45504, - "map_at_1000": 0.45667, - "recall_at_1": 0.23982, - "recall_at_3": 0.43043, - "recall_at_5": 0.50256, - "recall_at_10": 0.60812, - "recall_at_50": 0.80433, - "recall_at_100": 0.87961, - "recall_at_1000": 0.98553, - "precision_at_1": 0.47059, - "precision_at_3": 0.32026, - "precision_at_5": 0.23866, - "precision_at_10": 0.15266, - "precision_at_50": 0.04319, - "precision_at_100": 0.02395, - "precision_at_1000": 0.00271, - "mrr_at_1": 0.47059, - "mrr_at_3": 0.56256, - "mrr_at_5": 0.57572, - "mrr_at_10": 0.58488, - "mrr_at_50": 0.59029, - "mrr_at_100": 0.59091, - "mrr_at_1000": 0.59107 - }, - "pubmed_100K-200K_1": { - "ndcg_at_1": 0.47043, - "ndcg_at_3": 0.46323, - "ndcg_at_5": 0.4781, - "ndcg_at_10": 0.51834, - "ndcg_at_50": 0.57521, - "ndcg_at_100": 0.59573, - "ndcg_at_1000": 0.61773, - "map_at_1": 0.26131, - "map_at_3": 0.38606, - "map_at_5": 0.4114, - "map_at_10": 0.43685, - "map_at_50": 0.45693, - "map_at_100": 0.46014, - "map_at_1000": 0.46172, - "recall_at_1": 0.26131, - "recall_at_3": 0.44861, - "recall_at_5": 0.51076, - "recall_at_10": 0.60213, - "recall_at_50": 0.77625, - "recall_at_100": 0.8644, - "recall_at_1000": 0.99001, - "precision_at_1": 0.47043, - "precision_at_3": 0.29928, - "precision_at_5": 0.21774, - "precision_at_10": 0.13871, - "precision_at_50": 0.03989, - "precision_at_100": 0.02293, - "precision_at_1000": 0.00267, - "mrr_at_1": 0.47043, - "mrr_at_3": 0.54794, - "mrr_at_5": 0.5634, - "mrr_at_10": 0.5742, - "mrr_at_50": 0.58039, - "mrr_at_100": 0.58098, - "mrr_at_1000": 0.58119 - } - } - }, - "book": { - "en": { - "origin-of-species_darwin": { - "ndcg_at_1": 0.3306, - "ndcg_at_3": 0.31539, - "ndcg_at_5": 0.3255, - "ndcg_at_10": 0.36198, - "ndcg_at_50": 0.43395, - "ndcg_at_100": 0.45645, - "ndcg_at_1000": 0.49299, - "map_at_1": 0.1423, - "map_at_3": 0.22249, - "map_at_5": 0.24915, - "map_at_10": 0.27745, - "map_at_50": 0.30392, - "map_at_100": 0.30731, - "map_at_1000": 0.3097, - "recall_at_1": 0.1423, - "recall_at_3": 0.26893, - "recall_at_5": 0.3301, - "recall_at_10": 0.42066, - "recall_at_50": 0.64331, - "recall_at_100": 0.7413, - "recall_at_1000": 0.96156, - "precision_at_1": 0.3306, - "precision_at_3": 0.23862, - "precision_at_5": 0.19016, - "precision_at_10": 0.13005, - "precision_at_50": 0.04175, - "precision_at_100": 0.0241, - "precision_at_1000": 0.00303, - "mrr_at_1": 0.3306, - "mrr_at_3": 0.42168, - "mrr_at_5": 0.43547, - "mrr_at_10": 0.44432, - "mrr_at_50": 0.45127, - "mrr_at_100": 0.45216, - "mrr_at_1000": 0.45261 - }, - "a-brief-history-of-time_stephen-hawking": { - "ndcg_at_1": 0.38108, - "ndcg_at_3": 0.39253, - "ndcg_at_5": 0.42152, - "ndcg_at_10": 0.46612, - "ndcg_at_50": 0.5344, - "ndcg_at_100": 0.55096, - "ndcg_at_1000": 0.56221, - "map_at_1": 0.21034, - "map_at_3": 0.31598, - "map_at_5": 0.35036, - "map_at_10": 0.37799, - "map_at_50": 0.40283, - "map_at_100": 0.40529, - "map_at_1000": 0.40619, - "recall_at_1": 0.21034, - "recall_at_3": 0.38255, - "recall_at_5": 0.47252, - "recall_at_10": 0.58077, - "recall_at_50": 0.80927, - "recall_at_100": 0.89153, - "recall_at_1000": 0.95802, - "precision_at_1": 0.38108, - "precision_at_3": 0.26667, - "precision_at_5": 0.20541, - "precision_at_10": 0.13351, - "precision_at_50": 0.03903, - "precision_at_100": 0.02135, - "precision_at_1000": 0.00229, - "mrr_at_1": 0.38108, - "mrr_at_3": 0.47027, - "mrr_at_5": 0.48892, - "mrr_at_10": 0.50133, - "mrr_at_50": 0.50814, - "mrr_at_100": 0.50873, - "mrr_at_1000": 0.50887 - } - } - }, - "arxiv": { - "en": { - "llama2": { - "ndcg_at_1": 0.29141, - "ndcg_at_3": 0.31039, - "ndcg_at_5": 0.34248, - "ndcg_at_10": 0.38478, - "ndcg_at_50": 0.44686, - "ndcg_at_100": 0.46379, - "ndcg_at_1000": 0.47805, - "map_at_1": 0.18024, - "map_at_3": 0.26171, - "map_at_5": 0.28919, - "map_at_10": 0.31131, - "map_at_50": 0.32999, - "map_at_100": 0.33214, - "map_at_1000": 0.33314, - "recall_at_1": 0.18024, - "recall_at_3": 0.31982, - "recall_at_5": 0.40218, - "recall_at_10": 0.51067, - "recall_at_50": 0.73709, - "recall_at_100": 0.82423, - "recall_at_1000": 0.91365, - "precision_at_1": 0.29141, - "precision_at_3": 0.19018, - "precision_at_5": 0.14969, - "precision_at_10": 0.09847, - "precision_at_50": 0.02951, - "precision_at_100": 0.01644, - "precision_at_1000": 0.00181, - "mrr_at_1": 0.29141, - "mrr_at_3": 0.35583, - "mrr_at_5": 0.37592, - "mrr_at_10": 0.39115, - "mrr_at_50": 0.39996, - "mrr_at_100": 0.40088, - "mrr_at_1000": 0.40117 - }, - "gpt3": { - "ndcg_at_1": 0.25816, - "ndcg_at_3": 0.33117, - "ndcg_at_5": 0.3691, - "ndcg_at_10": 0.40311, - "ndcg_at_50": 0.45707, - "ndcg_at_100": 0.4728, - "ndcg_at_1000": 0.48624, - "map_at_1": 0.20846, - "map_at_3": 0.29492, - "map_at_5": 0.31814, - "map_at_10": 0.33456, - "map_at_50": 0.3475, - "map_at_100": 0.3492, - "map_at_1000": 0.35009, - "recall_at_1": 0.20846, - "recall_at_3": 0.38427, - "recall_at_5": 0.46686, - "recall_at_10": 0.56133, - "recall_at_50": 0.77992, - "recall_at_100": 0.86573, - "recall_at_1000": 0.95302, - "precision_at_1": 0.25816, - "precision_at_3": 0.16815, - "precision_at_5": 0.127, - "precision_at_10": 0.07745, - "precision_at_50": 0.02255, - "precision_at_100": 0.01267, - "precision_at_1000": 0.0014, - "mrr_at_1": 0.25816, - "mrr_at_3": 0.34372, - "mrr_at_5": 0.36508, - "mrr_at_10": 0.37725, - "mrr_at_50": 0.387, - "mrr_at_100": 0.38798, - "mrr_at_1000": 0.38839 - }, - "llm-survey": { - "ndcg_at_1": 0.32493, - "ndcg_at_3": 0.33251, - "ndcg_at_5": 0.35032, - "ndcg_at_10": 0.38995, - "ndcg_at_50": 0.46056, - "ndcg_at_100": 0.47868, - "ndcg_at_1000": 0.50424, - "map_at_1": 0.15538, - "map_at_3": 0.25519, - "map_at_5": 0.28347, - "map_at_10": 0.30999, - "map_at_50": 0.33626, - "map_at_100": 0.3389, - "map_at_1000": 0.34039, - "recall_at_1": 0.15538, - "recall_at_3": 0.3127, - "recall_at_5": 0.37963, - "recall_at_10": 0.47761, - "recall_at_50": 0.70694, - "recall_at_100": 0.79126, - "recall_at_1000": 0.95612, - "precision_at_1": 0.32493, - "precision_at_3": 0.23996, - "precision_at_5": 0.18487, - "precision_at_10": 0.12465, - "precision_at_50": 0.03849, - "precision_at_100": 0.02143, - "precision_at_1000": 0.0025, - "mrr_at_1": 0.32493, - "mrr_at_3": 0.4057, - "mrr_at_5": 0.4218, - "mrr_at_10": 0.43384, - "mrr_at_50": 0.44148, - "mrr_at_100": 0.44225, - "mrr_at_1000": 0.44268 - }, - "gemini": { - "ndcg_at_1": 0.249, - "ndcg_at_3": 0.37741, - "ndcg_at_5": 0.41405, - "ndcg_at_10": 0.44097, - "ndcg_at_50": 0.48447, - "ndcg_at_100": 0.4992, - "ndcg_at_1000": 0.50426, - "map_at_1": 0.249, - "map_at_3": 0.34672, - "map_at_5": 0.3672, - "map_at_10": 0.3781, - "map_at_50": 0.38742, - "map_at_100": 0.38864, - "map_at_1000": 0.38891, - "recall_at_1": 0.249, - "recall_at_3": 0.46586, - "recall_at_5": 0.55422, - "recall_at_10": 0.63855, - "recall_at_50": 0.83534, - "recall_at_100": 0.92771, - "recall_at_1000": 0.96386, - "precision_at_1": 0.249, - "precision_at_3": 0.15529, - "precision_at_5": 0.11084, - "precision_at_10": 0.06386, - "precision_at_50": 0.01671, - "precision_at_100": 0.00928, - "precision_at_1000": 0.00096, - "mrr_at_1": 0.249, - "mrr_at_3": 0.34672, - "mrr_at_5": 0.3672, - "mrr_at_10": 0.3781, - "mrr_at_50": 0.38742, - "mrr_at_100": 0.38864, - "mrr_at_1000": 0.38891 - } - } - } - } - } - } -} \ No newline at end of file